Nonconvex Alternating Direction Optimization for Graphs: Inference and Learning
L'algorithme des directions alternées non convexe pour graphes: inférence et apprentissage
Résumé
This thesis presents our contributions to inference and learning of graph-based models in computer vision.
First, we propose a novel class of decomposition algorithms for solving graph and hypergraph matching based on the nonconvex alternating direction method of multipliers (ADMM). These algorithms are computationally efficient and highly parallelizable. Furthermore, they are also very general and can be applied to arbitrary energy functions as well as arbitrary assignment constraints. Experiments show that they outperform existing state-of-the-art methods on popular benchmarks.
Second, we propose a nonconvex continuous relaxation of maximum a posteriori (MAP) inference in discrete Markov random fields (MRFs). We show that this relaxation is tight for arbitrary MRFs. This allows us to apply continuous optimization techniques to solve the original discrete problem without loss in accuracy after rounding. We study two popular gradient-based methods, and further propose a more effective solution using nonconvex ADMM. Experiments on different real-world problems demonstrate that the proposed ADMM compares favorably with state-of-the-art algorithms in different settings.
Finally, we propose a method for learning the parameters of these graph-based models from training data, based on nonconvex ADMM. This method consists of viewing ADMM iterations as a sequence of differentiable operations, which allows efficient computation of the gradient of the training loss with respect to the model parameters, enabling efficient training using stochastic gradient descent. At the end we obtain a unified framework for inference and learning with nonconvex ADMM. Thanks to its flexibility, this framework also allows training jointly end-to-end a graph-based model with another model such as a neural network, thus combining the strengths of both. We present experiments on a popular semantic segmentation dataset, demonstrating the effectiveness of our method.
Cette thèse présente nos contributions à l’inférence et l’apprentissage des modèles graphiques en vision artificielle.
Tout d’abord, nous proposons une nouvelle classe d’algorithmes de décomposition pour résoudre le problème d’appariement de graphes et d’hypergraphes, s’appuyant sur l’algorithme des directions alternées (ADMM) non convexe. Ces algorithmes sont efficaces en terme de calcul et sont hautement parallélisables. En outre, ils sont également très généraux et peuvent être appliqués à des fonctionnelles d’énergie arbitraires ainsi qu’à des contraintes de correspondance arbitraires. Les expériences montrent qu’ils surpassent les méthodes de pointe existantes sur des benchmarks populaires.
Ensuite, nous proposons une relaxation continue non convexe pour le problème d’estimation du maximum a posteriori (MAP) dans les champs aléatoires de Markov (MRFs). Nous démontrons que cette relaxation est serrée, c’est-à-dire qu’elle est équivalente au problème original. Cela nous permet d’appliquer des méthodes d’optimisation continue pour résoudre le problème initial discret sans perte de précision après arrondissement. Nous étudions deux méthodes de gradient populaires, et proposons en outre une solution plus efficace utilisant l’ADMM non convexe. Les expériences sur plusieurs problèmes réels démontrent que notre algorithme prend l’avantage sur ceux de pointe, dans différentes configurations.
Finalement, nous proposons une méthode d’apprentissage des paramètres de ces modèles graphiques avec des données d’entraînement, basée sur l’ADMM non convexe. Cette méthode consiste à visualiser les itérations de l’ADMM comme une séquence d'opérations différenciables, ce qui permet de calculer efficacement le gradient de la perte d'apprentissage par rapport aux paramètres du modèle. L’apprentissage peut alors utiliser une descente de gradient stochastique. Nous obtenons donc un framework unifié pour l’inférence et l’apprentissage avec l’ADMM non-convexe. Grâce à sa flexibilité, ce framework permet également d’entraîner conjointement de-bout-en-bout un modèle graphique avec un autre modèle, tel qu'un réseau de neurones, combinant ainsi les avantages des deux. Nous présentons des expériences sur un jeu de données de segmentation sémantique populaire, démontrant l'efficacité de notre méthode.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|