Des Réseaux de Neurones avec Mécanisme d’Attention pour la Compréhension de la Parole - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2016

Des Réseaux de Neurones avec Mécanisme d’Attention pour la Compréhension de la Parole

Résumé

Exploring the use of Attention-Based Recurrent Neural Networks For Spoken Language Understanding This study explores the use of a bidirectional recurrent neural network (RNN) encoder/decoder based on a mechanism of attention for a Spoken Language Understanding (SLU) task. First experiments carried on the ATIS corpus confirm the quality of the RNN baseline system used in this paper, by comparing its results on the ATIS corpus to the results recently published in the literature. Additional experiments show that RNN based on a mechanism of attention performs better than RNN architectures recently proposed for a slot filling task. On the French MEDIA corpus, a French state-of-the-art corpus for SLU dedicated to hotel reservation and tourist information, experiments show that a bidirectionnal RNN reaches a f-measure value of 79.51 while the use of a mechanism of attention allows us to reach a f-measure value of 80.27
L'étude porte sur l'apport d'un réseau de neurones récurrent (Recurrent Neural Network-RNN) bidirectionnel encodeur/décodeur avec mécanisme d'attention pour une tâche de compré-hension de la parole. Les premières expériences faites sur le corpus ATIS confirment la qualité du système RNN état de l'art utilisé pour cet article, en comparant les résultats obtenus à ceux récemment publiés dans la littérature. Des expériences supplémentaires montrent que les RNNs avec mécanisme d'attention obtiennent de meilleures performances que les RNNs récemment proposés pour la tâche d'étiquetage en concepts sémantiques. Sur le corpus MEDIA, un corpus français état de l'art pour la compréhension dédié à la réservation d'hôtel et aux informations touristiques, les expériences montrent qu'un RNN bidirectionnel atteint une f-mesure de 79,51 tandis que le même système intégrant le mécanisme d'attention permet d'atteindre une f-mesure de 80,27
Fichier principal
Vignette du fichier
JEP_2016_paper_16.pdf (200.71 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-01433191 , version 1 (09-11-2020)

Identifiants

  • HAL Id : hal-01433191 , version 1

Citer

Edwin Simonnet, Paul Deléglise, Nathalie Camelin, Yannick Estève. Des Réseaux de Neurones avec Mécanisme d’Attention pour la Compréhension de la Parole. 31ème Journées d’Études sur la Parole, 2016, Paris, France. ⟨hal-01433191⟩
487 Consultations
85 Téléchargements

Partager

Gmail Facebook X LinkedIn More