Dans de nombreux problèmes inverses rencontrés en traitement du signal et de l'image, le manque d'information contenue dans les données peut être compensé par la prise en compte d'une contrainte de parcimonie sur la solution recherchée. L'hypothèse de parcimonie suppose que l'objet d'intérêt peut s'exprimer, de manière exacte ou approchée, comme la combinaison linéaire d'un petit nombre d'éléments choisis dans un dictionnaire adapté. Je présenterai différentes contributions apportées dans la construction de modèles parcimonieux. Dans plusieurs contextes applicatifs, nous cherchons à raffiner les représentations classiques reliant les données aux grandeurs d'intérêt à estimer, afin de les rendre plus fidèles à la réalité des processus observés. Cet enrichissement de modèle, s'il permet d'améliorer la qualité des solutions obtenues, s'opère au détriment d'une augmentation de la complexité calculatoire. Nous proposons donc des solutions algorithmiques dédiées, relevant essentiellement de l'optimisation mathématique. Un premier volet envisage la restauration de données d'imagerie hyperspectrale en astronomie, où l'observation de champs profonds depuis le sol s'effectue dans des conditions très dégradées. Le débruitage et la déconvolution sont abordés sous une hypothèse de parcimonie des spectres recherchés dans un dictionnaire de formes élémentaires. Des algorithmes d'optimisation capables de gérer la grande dimension des données sont proposés, reposant essentiellement sur l'optimisation de critères pénalisés par la norme l_1, par une approche de type descente par coordonnée. Une deuxième application concerne la déconvolution parcimonieuse pour le contrôle non destructif par ultrasons. Nous construisons, d'une part, un modèle "à haute résolution", permettant de suréchantillonner la séquence parcimonieuse recherchée par rapport aux données, pour lequel nous adaptons les algorithmes classiques de déconvolution. D'autre part, nous proposons de raffiner le modèle convolutif standard en intégrant des phénomènes de propagation acoustique, débouchant sur un modèle non invariant par translation. Ces travaux sont ensuite étendus à l'imagerie ultrasonore, par la construction de modèles de données adaptés et l'optimisation de critères favorisant la parcimonie. Nous abordons enfin des travaux plus génériques menés sur l'optimisation globale de critères parcimonieux impliquant la "norme" l_0 (le nombre de coefficients non nuls dans la décomposition recherchée). Alors que l'essentiel des travaux en estimation parcimonieuse privilégie des formulations sous-optimales adaptées aux problèmes de grande taille, nous nous intéressons à la recherche de solutions exactes des problèmes l_0 au moyen d'algorithmes branch-and-bound. De tels modèles parcimonieux, s'ils s'avèrent plus coûteux en temps de calcul, peuvent fournir de meilleures solutions et restent de complexité abordable sur des problèmes de taille modérée. Des applications sont proposées pour la déconvolution de signaux monodimensionnels et pour le démélange spectral. La présentation de quelques pistes de recherche à court et moyen terme conclura cet exposé.