Les travaux présentés dans ce mémoire d'habilitation à diriger des recherches s'articulent autour de la résolution de problèmes inverses en traitement du signal et d'image. La particularité de ces travaux est liée à la résolution de problèmes de grande taille par une approche bayésienne et d'outils issus de l'optimisation convexe, de la simulation stochastique et du calcul numérique. La première partie de ce manuscrit est un bilan synthétique de mes activités d'enseignement, au sein du département Automatique et Robotique de l'Ecole Centrale de Nantes, et de recherche à l'Institut de Recherche en Communications et Cybernétique de Nantes. Dans la seconde partie, et après une introduction générale visant à expliquer les questions majeures liés à la résolution de problèmes inverses de grande taille, seront présentées quelques contributions méthodologiques issues de mes travaux de recherche. Ces contributions consistent en la conception de méthodes de majoration-minimisation pour l'accélération des algorithmes d'optimisation itérative ainsi que le recours à des outils de calcul intensif sur des processeurs de cartes graphiques pour réduire le temps de calcul. Le fil conducteur de ces travaux réside dans le développement de méthodes ayant des propriétés théoriques éprouvées et possédant une structure algorithmique adaptée pour une implémentation parallélisable. Par ailleurs, dans le cadre de la résolution de problèmes inverses linéaires par des méthodes de Monte Carlo, une contribution récente, couplant optimisation itérative et simulation stochastique, concerne la proposition d'une approche originale d'échantillonnage de vecteurs gaussiens en grande dimension. La dernière partie de ce manuscrit portera sur les perspectives scientifiques à court terme et sur les grandes lignes de mon projet de recherche à plus long terme lié notamment à la coopération entre optimisation, simulation stochastique et calcul intensif pour la résolution de problèmes inverses.