Orthogonal greedy algorithms for non-negative sparse reconstruction
Algorithmes gloutons orthogonaux sous contrainte de positivité
Résumé
Non-negative sparse approximation arises in many applications fields
such as biomedical engineering, fluid mechanics, astrophysics, and
remote sensing. Some classical sparse algorithms can be
straightforwardly adapted to deal with non-negativity constraints. On
the contrary, the non-negative extension of orthogonal greedy
algorithms is a challenging issue since the unconstrained least squares
subproblems are replaced by non-negative least squares subproblems
which do not have closed-form solutions. In the literature,
non-negative orthogonal greedy (NNOG) algorithms are often considered
to be slow. Moreover, some recent works exploit approximate schemes to
derive efficient recursive implementations.
In this thesis, NNOG algorithms are introduced as heuristic solvers
dedicated to L0 minimization under non-negativity constraints.
It is first shown that the latter L0 minimization problem is
NP-hard. The second contribution is to propose a unified framework on
NNOG algorithms together with an exact and fast implementation, where
the non-negative least-square subproblems are solved using the
active-set algorithm with warm start initialization. The proposed
implementation significantly reduces the cost of NNOG algorithms and
appears to be more advantageous than existing approximate schemes. The
third contribution consists of a unified K-step exact support
recovery analysis of NNOG algorithms when the mutual coherence of the
dictionary is lower than 1/(2K-1). This is the first analysis of
this kind.
De nombreux domaines applicatifs conduisent à résoudre des problèmes
inverses où le signal ou l'image à reconstruire est à la fois
parcimonieux et positif. Si la structure de certains algorithmes de
reconstruction parcimonieuse s'adapte directement pour traiter les
contraintes de positivité, il n'en va pas de même des algorithmes
gloutons orthogonaux comme OMP et OLS. Leur extension positive pose
des problèmes d'implémentation car les sous-problèmes de moindres
carrés positifs à résoudre ne possèdent pas de solution
explicite. Dans la littérature, les algorithmes gloutons positifs
(NNOG, pour “Non-Negative Orthogonal Greedy algorithms”) sont
souvent considérés comme lents, et les implémentations récemment
proposées exploitent des schémas récursifs approchés pour compenser
cette lenteur.
Dans ce manuscrit, les algorithmes NNOG sont vus comme des
heuristiques pour résoudre le problème de minimisation L0 sous
contrainte de positivité. La première contribution est de montrer que
ce problème est NP-difficile. Deuxièmement, nous dressons un panorama
unifié des algorithmes NNOG et proposons une implémentation exacte et
rapide basée sur la méthode des contraintes actives avec démarrage à
chaud pour résoudre les sous-problèmes de moindres carrés
positifs. Cette implémentation réduit considérablement le coût des
algorithmes NNOG et s'avère avantageuse par rapport aux schémas
approximatifs existants. La troisième contribution consiste en une
analyse de reconstruction exacte en K étapes du support d'une
représentation K-parcimonieuse par les algorithmes NNOG lorsque la
cohérence mutuelle du dictionnaire est inférieure à 1/(2K-1). C'est
la première analyse de ce type.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
Loading...