Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs

Résumé

Les modèles neuronaux de type seq2seq manifestent d’étonnantes capacités de prédiction quand ils sont entraînés sur des données de taille suffisante. Cependant, ils échouent à généraliser de manière satisfaisante quand la tâche implique d’apprendre et de réutiliser des règles systématiques de composition et non d’apprendre simplement par imitation des exemples d’entraînement. Le jeu de données SCAN, constitué d’un ensemble de commandes en langage naturel associées à des séquences d’action, a été spécifiquement conçu pour évaluer les capacités des réseaux de neurones à apprendre ce type de généralisation compositionnelle. Dans cet article, nous nous proposons d’étudier la contribution d’informations syntaxiques sur les capacités de généralisation compositionnelle des réseaux de neurones seq2seq convolutifs.
Fichier principal
Vignette du fichier
28.pdf (323.63 Ko) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-03265890 , version 1 (23-06-2021)

Identifiants

  • HAL Id : hal-03265890 , version 1

Citer

Diana Nicoleta Popa, William N Havard, Maximin Coavoux, Laurent Besacier, Éric Gaussier. Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs. Traitement Automatique des Langues Naturelles, 2021, Lille, France. pp.134-141. ⟨hal-03265890⟩
141 Consultations
63 Téléchargements

Partager

Gmail Facebook X LinkedIn More