Avec les projets titanesques des "extremely large telescopes", l’astronomie mondiale va bientôt se doter d’outils à la puissance inégalée pour sonder l’univers. Ces télescopes suivent la trace de leurs compagnons de taille plus modeste, les télescopes de classe 8 m, dont les prouesses éclairent déjà le paysage scientifique depuis plus d’une vingtaine d’années. Ces télescopes au sol, présents ou futurs, se trouvent pourtant tous amputés d’une partie de leurs capacités dès leur mise en fonctionnement : la turbulence atmosphérique brouille les fronts d’onde de la lumière parvenant des astres, réduisant la résolution angulaire de ces géants à celle de simples télescopes amateurs. Pour lutter contre ce flou qui entache les images du cosmos, les scientifiques ont mis au point une technique appelée optique adaptative (OA). À l’aide d’optiques déformables, cette technique permet de compenser en temps réel les altérations de la lumière dues à l’atmosphère. Cette méthode équipe aujourd’hui tous les plus grands télescopes au sol, et est devenue indispensable pour un grand nombre d’applications astrophysiques. Motivé notamment par la chasse aux exoplanètes, des systèmes d’OA repoussant les limites de performances sont aujourd’hui mis au point. Les limites fondamentales de tels instruments reposent sur la qualité des mesures fournies par le dispositif optique au coeur de cette technique : l’analyseur de surface d’onde (ASO), dont l’objectif est d’estimer les formes imprégnées par la turbulence sur les fronts d’onde. Cette qualité des mesures est définie par deux grands aspects, la sensibilité et la dynamique. Cette thèse se concentre sur une classe très large d’ASO, appelée ASO à filtrage de Fourier. En s’appuyant sur un formalisme mathématique développé dans des travaux précédents, on y développe une meilleure compréhension de leur sensibilité grâce à l’étude de la propagation des différents bruits présents dans leurs mesures. Forts de cette interprétation, on mène une comparaison précise et inédite des différents éléments qui composent cette famille d’ASO. On en profite aussi pour proposer de nouveaux concepts de filtrage de Fourier permettant d’atteindre des sensibilités inégalées auparavant, avec une efficacité d’utilisation des photons très proche de la limite fondamentale possible pour l’analyse de front d’onde en général. Malheureusement, la sensibilité seule ne suffit pas pour définir les performances d’un ASO. La dynamique, mise à rude épreuve lors de la boucle d’OA, est tout autant cruciale pour assurer le bon fonctionnement des opérations. Pour sonder la dynamique des ASO étudiés, on utilise une approche bien particulière qui permet d’évaluer les non-linéarités tout en restant dans un formalisme matriciel : l’approche des systèmes à paramètres linéaires variants. Ainsi, on interprète les non-linéarités du système en considérant plus simplement leur effet sur les mesures comme une source de changement de régime de linéarité. Cette approche, déjà présentée dans des travaux précédents, permet de définir le concept essentiel des gains optiques. On pousse ici leur utilisation en proposant un suivi à haute cadence, à l’échelle de chaque mesure de l’ASO. On fournit aussi une façon pratique de réaliser ce suivi grâce au concept d’ASO à filtrage de Fourier assisté par imagerie plan focal et l’introduction de la Gains Scheduling Camera. Cette solution, consistant à fusionner les données d’une image plan focal et les signaux délivrés par l’ASO, semble s’imposer comme une solution pratique de la gestion des non-linéarités très prometteuse. Une partie plus expérimentale vient étayer tous ces travaux avec l’implémentation des nouveaux masques à filtrage de Fourier proposés sur le banc LOOPS au LAM d’un côté, et le développement du projet PAPYRUS visant à mettre sur ciel un analyseur pyramide assistée par imagerie en plan focal de l’autre.