Quelques observations sur la notion de biais dans les modèles de langue - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Quelques observations sur la notion de biais dans les modèles de langue

Résumé

Cet article revient sur la notion de biais dans les modèles de langue. On montre à partir d'exemples tirés de modèles génératifs pour le français (de type GPT) qu'il est facile d'orienter, à partir de prompts précis, les textes générés vers des résultats potentiellement problématiques (avec des stéréotypes, des biais, etc.). Mais les actions à accomplir à partir de là ne sont pas neutres : le fait de débiaiser les modèles a un aspect positif mais pose aussi de nombreuses questions (comment décider ce qu'il faut corriger ? qui peut ou doit le décider ? par rapport à quelle norme?). Finalement, on montre que les questions posées ne sont pas seulement technologiques, mais avant tout sociales, et liées au contexte d'utilisation des applications visées.
Fichier principal
Vignette du fichier
480736.pdf (269.49 Ko) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-04130210 , version 1 (20-06-2023)

Identifiants

  • HAL Id : hal-04130210 , version 1

Citer

Romane Gallienne, Thierry Poibeau. Quelques observations sur la notion de biais dans les modèles de langue. 18e Conférence en Recherche d'Information et Applications -- 16e Rencontres Jeunes Chercheurs en RI -- 30e Conférence sur le Traitement Automatique des Langues Naturelles -- 25e Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues, Jun 2023, Paris, France. pp.1-13. ⟨hal-04130210⟩
113 Consultations
158 Téléchargements

Partager

Gmail Facebook X LinkedIn More