Un modèle de langue stochastique a pour rôle de donner la meilleure estimation possible de la probabilité d’une suite de mots dans une langue donnée. C’est un composant essentiel des logiciels de reconnaissance de la parole duquel dépend grandement leurs performances. Les modèles état-de-l’art les plus utilisés sont les moèles n-grammes lissés par la technique de Kneser-Ney. Ces modèles utilisent les statistiques d’occurrence de séquences de mots d’une longueur maximale typiquement de 5, statistiques calculés sur un vaste corpus d’apprentissage. Cette thèse commence par une étude empirique des erreurs d’un système de reconnaissance de la parole état-de-l’art en français. Il est apparu que de nombreux phénomènes langagiers réguliers sont hors de portée des modèles n-grammes. Cette thèse explore donc une approche duale du paradigme statistique dominant en utilisant des modèles à base de mémoire qui traitent efficacement les phénomènes spécifiques en synergie avec les modèles n-grammes qui modélisent efficacement les grandes tendances. La notion de similarité entre longs n-grammes est étudiée, de façon à identifier les contextes particuliers à prendre en compte dans un premier modèle de langue de similarité. Les informations ainsi extraites du corpus sont combinées via un noyau Gaussien pour calculer un nouveau score. L’intégration de ce modèle non probabiliste, a permis d’améliorer les performances d’un système de reconnaissance. Un deuxième modèle est proposé, probabiliste et permettant ainsi une meilleur intégration de l’approche par similarité avec les modèles existants et qui améliore les performances en perplexité sur du texte.