Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs - Archive ouverte HAL Access content directly
Conference Papers Year : 2021

Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs

Abstract

Les modèles neuronaux de type seq2seq manifestent d’étonnantes capacités de prédiction quand ils sont entraînés sur des données de taille suffisante. Cependant, ils échouent à généraliser de manière satisfaisante quand la tâche implique d’apprendre et de réutiliser des règles systématiques de composition et non d’apprendre simplement par imitation des exemples d’entraînement. Le jeu de données SCAN, constitué d’un ensemble de commandes en langage naturel associées à des séquences d’action, a été spécifiquement conçu pour évaluer les capacités des réseaux de neurones à apprendre ce type de généralisation compositionnelle. Dans cet article, nous nous proposons d’étudier la contribution d’informations syntaxiques sur les capacités de généralisation compositionnelle des réseaux de neurones seq2seq convolutifs.
Fichier principal
Vignette du fichier
28.pdf (323.63 Ko) Télécharger le fichier
Origin : Publisher files allowed on an open archive

Dates and versions

hal-03265890 , version 1 (23-06-2021)

Identifiers

  • HAL Id : hal-03265890 , version 1

Cite

Diana Nicoleta Popa, William N Havard, Maximin Coavoux, Laurent Besacier, Éric Gaussier. Contribution d'informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs. Traitement Automatique des Langues Naturelles, 2021, Lille, France. pp.134-141. ⟨hal-03265890⟩
139 View
57 Download

Share

Gmail Facebook X LinkedIn More