Détection et classification automatiques d'erreurs de prononciation en L2 : approche basée sur les connaissances didactiques - Archive ouverte HAL Access content directly
Conference Papers Year : 2023

Automatic detection and classification of L2 mispronunciations : a didactic knowledge-based approach

Détection et classification automatiques d'erreurs de prononciation en L2 : approche basée sur les connaissances didactiques

Abstract

Les outils d’Entraînement à la Prononciation Assisté par Ordinateur (EPAO) sont intéressants pour l’apprentissage des langues dans la mesure où la majorité des apprenants n’a pas accès à un professeur particulier pour travailler ces aspects. Ces outils doivent être capables d’effectuer la détection et le diagnostic des erreurs de prononciation avec suffisamment de fiabilité et de précision pour pouvoir fournir à l’apprenant des retours pertinents vis-à-vis des difficultés qu’il rencontre. Dans ce domaine, nombre de travaux s’appuient sur un alignement forcé du signal de parole avec la prononciation canonique, ce qui permet d’évaluer les sons produits en connaissant les phones canoniques auxquels ils correspondent. La méthode la plus citée est le Goodness of Pronunciation (GOP) [1], mais des méthodes plus récentes emploient des classifieurs basés sur des réseaux de neurones profonds ou des représentations issues de réseaux de neurones comme wav2vec 2.0 [2]. D’autres méthodes se basent sur une transcription phonétique suivie d’une comparaison avec la prononciation canonique, ce qui permet de fournir un diagnostic d’erreur. Dans [3] les auteurs effectuent la phase de reconnaissance de phones selon deux architectures basées sur des Transformers. Le meilleur système obtient 81,3% de précision et 80,7% de rappel pour la détection et 10,0% d’erreur de diagnostic sur le corpus CU-CHLOE d’apprenants chinois de l’anglais. Dans le cadre de nos travaux, nous nous plaçons dans le contexte d’une tâche de répétition de mots ou de phrases simples, sur la base de stimuli audio présentés aux apprenants. La prononciation correcte est connue et contient une difficulté à leur faire travailler. Les réalisations probables du phonème cible sont classées dans des catégories didactiques correspondant aux retours qu’un enseignant fournirait selon la présence et le type d’erreurs. Nous explorons deux approches qui se basent sur les deux tendances observées dans la littérature : l’une repose sur un alignement entre la prononciation cible et la production, et l’autre se base sur une transcription phonétique de la production. La première approche réalise d’abord un alignement entre signaux avec l’algorithme Dynamic Time Warping (DTW), en utilisant des MFCC. Le segment de la production correspondant au phonème cible est ensuite classé dans l’une des catégories didactiques identifiées, en utilisant diverses mesures tirées de la littérature et un classifieur hiérarchique binaire basé sur la méthode des random forest. L’intérêt de cette approche est qu’elle est indépendante de la langue. La seconde approche réalise une transcription phonétique de la production à l’aide d’un réseau récurrent bidirectionnel à mémoire courte et long terme (BiLSTM) [4] pré-entraîné sur de la parole native de la L1 et de la L2 puis adapté à la parole d’apprenants. La transcription est ensuite alignée avec la prononciation cible via un alignement de Needleman-Wunsch [5]. La réalisation correspondant au phonème cible est alors classée dans la catégorie didactique avec laquelle elle est la plus similaire (selon des critères de similarité entre phones inspirés de [6]). Avec cette approche, l’utilisation de transfer learning permet de gérer le manque de données d’entraînement. Notre étude a été réalisée sur un corpus de 7112 énoncés produits par 67 apprenants japonais du français et annotés au niveau phonétique par deux experts. Notre étude se limite pour l’instant aux phonèmes /ʒ/ et /y/, jugés parmi les plus importants pour l’apprentissage du français par des japonophones. Nous disposons ainsi de 1540 réalisations de /ʒ/ et de 1183 réalisations de /y/. Pour le phonème /ʒ/, les résultats sont encourageants, avec des précisions assez élevées sur les deux catégories les plus fréquentes. Le système basé sur la transcription par un BiLSTM donne les meilleurs résultats. Nous obtenons ainsi une précision moyenne de 83,8% sur ces catégories. Pour le phonème /y/, les résultats sont moins bons, avec des précisions moins élevées sur les catégories d’erreur les plus fréquentes. Le système basé sur un alignement entre signaux et un classifieur hiérarchique binaire donne les meilleurs résultats. On détecte certes les prononciations correctes avec une précision de 96,7% mais la précision moyenne sur les catégories d’erreurs les plus fréquentes est de seulement 57,7%. Ces différences peuvent s’expliquer en partie par les différences de distribution des catégories entre les phonèmes : pour /ʒ/ le corpus compte 647 prononciations correctes et 862 représentants de la principale catégorie d’erreur, ce qui est assez équilibré. Par contre, pour /y/, il y a 869 prononciations correctes, mais seulement 151 et 87 représentants pour les deux catégories d’erreurs les plus fréquentes. Cette première étude, son application à une paire de langues donnée (Japonais/Français) et aux phonèmes cibles faisant l’objet de difficultés typiques de cet apprentissage, a permis d’explorer deux approches potentiellement complémentaires pour la détection et de diagnostic d’erreurs de prononciation. Les résultats prometteurs vont se poursuivre par le prise en compte d’autres phonèmes cible. La méthodologie proposée peut également être généralisée à d’autres L1 ou d’autres paires de langues.
Fichier principal
Vignette du fichier
Soumission_journée_AFIA_TLH_AFCP.pdf (193.38 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-04331354 , version 1 (08-12-2023)

Identifiers

  • HAL Id : hal-04331354 , version 1

Cite

Romain Contrain, Julien Pinquier, Lionel Fontan, Isabelle Ferrané. Détection et classification automatiques d'erreurs de prononciation en L2 : approche basée sur les connaissances didactiques. Journée commune AFIA-TLH / AFCP “Extraction de connaissances interprétables pour l’étude de la communication parlée” (2023), Association Française pour l’Intelligence Artificielle (AFIA), collège Technologies du Langage Humain (TLH); Association Francophone de la Communication Parlée (AFCP), Dec 2023, Avignon, France. ⟨hal-04331354⟩
82 View
20 Download

Share

Gmail Facebook X LinkedIn More