Apprentissage en ligne interactif d’un générateur en langage naturel neuronal pour le dialogue homme-machine
Résumé
On-line Interactive Learning of Natural Language Neural Generation for Human-machine Dialogue. Recently, some propositions have emerged to handle natural language generation in spoken dialog systems with recurrent neural network models (Wen et al., 2016a). Those models require a huge amount of learning data, which complicates the data collection and annotation. To address this issue, we propose an online-learning protocol, based on a reinforcement learning approach. We learn a model on a reduced corpus produced with templates, and adapt it online. For this first experiment, we propose an approach using an adversarial bandit algorithm, studying its advantages and limitations.
Récemment, de nouveaux modèles à base de réseaux de neurones récurrents ont été proposés pour traiter la génération en langage naturel dans des systèmes de dialogue (Wen et al., 2016a). Ces modèles demandent une grande quantité de données d'apprentissage ; or la collecte et l'annotation de ces données peuvent être laborieuses. Pour répondre à cette problématique, nous nous intéressons ici à la mise en place d'un protocole d'apprentissage en ligne basé sur un apprentissage par renforcement, permettant d'améliorer l'utilisation d'un modèle initial appris sur un corpus plus restreint généré par patrons. Dans cette étude exploratoire, nous proposons une approche basée sur un algorithme de bandit contre un adversaire, afin d'en étudier l'intérêt et les limites.
Origine | Fichiers produits par l'(les) auteur(s) |
---|
Loading...