Apprentissage de l'évolution langagière dans des communautés d'auteurs
Résumé
Les modèles de langue sont au coeur de nombreux de travaux, notamment dans les domaines de la recherche d'information et de la fouille de texte. Plutôt qu'une analyse fine de la sémantique des textes, ces modèles statistiques visent à extraire des distributions d'occurrence de mots dans différents contextes. Divers types d'approches ont été proposés dans la littérature, du simple modèle multinomial unigramme à des modèles à variables latentes pour la prise en compte de dépendances complexes dans les textes. Néanmoins, peu de travaux se sont portés sur la prise en compte conjointe des dépendances structurelles et temporelles dans des distributions de textes observés au cours du temps. Nous établissons ici un modèle dynamique de l'évolution langagière d'une communauté d'auteurs. En apprenant un modèle neuronal d'évolution sur des ensembles de textes produits par différents auteurs d'une communauté à différents instants, nous sommes capables d'en exploiter les dépendances latentes à des fins de prédiction des publications à venir.