Portabilité linguistique des modèles de langage pré-appris appliqués à la tâche de dialogue humain-machine en français - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Portabilité linguistique des modèles de langage pré-appris appliqués à la tâche de dialogue humain-machine en français

Ahmed Njifenjou
  • Fonction : Auteur
  • PersonId : 1262392
Virgile Sucal
  • Fonction : Auteur
  • PersonId : 1262393
Bassam Jabaian
Fabrice Lefèvre

Résumé

Dans cet article, nous proposons une étude de la portabilité linguistique des modèles de langage pré-appris (MLPs) appliqués à une tâche de dialogue à domaine ouvert. La langue cible (L_T) retenue dans cette étude est le français. Elle dispose de peu de ressources spécifiques pour la tâche considérée et nous permet de réaliser une évaluation humaine. La langue source (L_S) est l'anglais qui concentre la majorité des travaux récents dans ce domaine. Construire des MLPs spécifiques pour chaque langue nécessite de collecter de nouveaux jeux de données et cela est coûteux. Ainsi, à partir des ressources disponibles en L_S et L_T, nous souhaitons évaluer les performances atteignables par un système de conversation en L_T . Pour cela, nous proposons trois approches : TrainOnTarget où le corpus L_S est traduit vers L_T avant l'affinage du modèle, TestOnSource où un modèle L_S est couplé avec des modules de traduction au moment du décodage et TrainOnSourceAdaptOnTarget, qui utilise un MLP multilingue - ici BLOOM (BigScience Workshop, 2022) - avec l'architecture MAD-X Adapter (Pfeiffer et al., 2020) pour apprendre la tâche en L_S et l'adapter à L_T . Les modèles sont évalués dans des conditions de dialogue oral et les stratégies sont comparées en termes de qualité perçue lors l'interaction.
Fichier principal
Vignette du fichier
461962.pdf (398.08 Ko) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-04130234 , version 1 (20-06-2023)

Identifiants

  • HAL Id : hal-04130234 , version 1

Citer

Ahmed Njifenjou, Virgile Sucal, Bassam Jabaian, Fabrice Lefèvre. Portabilité linguistique des modèles de langage pré-appris appliqués à la tâche de dialogue humain-machine en français. 18e Conférence en Recherche d'Information et Applications -- 16e Rencontres Jeunes Chercheurs en RI -- 30e Conférence sur le Traitement Automatique des Langues Naturelles -- 25e Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues, 2023, Paris, France. pp.148-158. ⟨hal-04130234⟩
18 Consultations
9 Téléchargements

Partager

Gmail Facebook X LinkedIn More