Normalizing Flows pour éviter le problème de pré-image
Résumé
Statistical learning methods often embed the data in a latent space where the classification or regression task can be efficiently carried out. For several reasons such as interpretability, it is interesting to represent the results back into the input space. This so-called pre-image problem is a hard ill-posed problem, as one seeks to inverse implicit transformations in kernel-based machines, or multiple nonlinear embeddings in deep neural networks. In this paper, we propose a classification method that does not suffer from the pre-image problem, thanks to a novel class of generative neural networks called Normalizing Flows. Experiments show good results in classification and interpretability.
Les méthodes d'apprentissage statistique génèrent souvent un espace de représentation dans lequel la tâche de classification ou de régression peut être effectuée efficacement. Alors qu'une telle transformation des données est en général non-inversible, il peut être intéressant de faire le chemin inverse afin d'interpréter les résultats dans l'espace des observations. Ce problème, dit de pré-image, est un problème difficile, mal posé, notamment quand les transformations sont implicites (méthodes à noyaux) ou non linéaires multiples (réseaux de neurones profonds). Dans cet article, nous proposons une méthode de classification ne souffrant pas de ce problème permettant ainsi une meilleure interprétabilité des représentations. La méthode proposée repose sur une nouvelle famille de méthodes génératives que sont les Normalizing Flows. Les expérimentations montrent de bons résultats de classification et d'interprétabilité.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|