EBBE-Text : Visualisation de la frontière de décision des réseaux de neurones en classification automatique de textes - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

EBBE-Text : Visualisation de la frontière de décision des réseaux de neurones en classification automatique de textes

Résumé

In text classification, many recent works deal with the interpretation of neural networks by producing explanations of predictions. The original approach presented in this paper consists in visualizing the decision boundary and the positioning of our data with respect to it, thus offering a new approach to explanation. Our method first computes a sentence representation space and then exploits its linear structure in order to visualize the distribution and clustering of data around the decision boundary. The main contribution of our method is the decision boundary visualization process, allowing to explore the distance to the decision boundary (and thus the certainty of a network in its predictions) but also the paths leading to it or the proximity between sentences.
En classification automatique de textes, de nombreux travaux récents portent sur l'interprétation des réseaux de neurones par la production d'explications des prédictions. L'approche originale présentée dans cet article consiste à visualiser la frontière de décision et le positionnement des données vis-à-vis de celle-ci offrant ainsi une nouvelle approche de l'explication. Notre méthode calcule tout d'abord un espace de représentation des phrases, puis en exploite la structure linéaire afin de visualiser la répartition et le regroupement des données autour de la frontière de décision. Le principal apport de notre méthode est le processus de visualisation de la frontière de décision, permettant d'explorer la distance à la frontière de décision (et donc la certitude d'un réseau en ses prédictions) mais aussi les chemins menant à celle-ci ou encore la proximité entre phrases.
Fichier principal
Vignette du fichier
1002646 (3).pdf (1.58 Mo) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-03462925 , version 1 (05-01-2022)

Identifiants

  • HAL Id : hal-03462925 , version 1

Citer

Alexis Delaforge, Jérôme Azé, Arnaud Sallaberry, Maximilien Servajean, Sandra Bringay, et al.. EBBE-Text : Visualisation de la frontière de décision des réseaux de neurones en classification automatique de textes. EGC 2021 - 21e Conférence Extraction et Gestion des Connaissances, Jan 2021, Montpellier, France. pp.169-180. ⟨hal-03462925⟩
99 Consultations
46 Téléchargements

Partager

Gmail Facebook X LinkedIn More