VampNet : Vampirisation non supervisée de réseaux de convolution - Archive ouverte HAL
Communication Dans Un Congrès Année : 2021

VampNet : Vampirisation non supervisée de réseaux de convolution

Trong-Lanh Nguyen
  • Fonction : Auteur
  • PersonId : 1109855
Thierry Chateau
Guillaume Magniez
  • Fonction : Auteur
  • PersonId : 1109856

Résumé

Nombre d’applications demandent la résolution simultanée de plusieurs tâches. Nous proposons une méthode non supervisée qui permet à partir de deux réseaux convolutifs profonds A et B de créer un réseau B’ approximant Ben s’alimentant d’une partie des couches de A. Ce réseau, nommé Vampire Network, permet de fortement réduire le poids combiné des deux réseaux. Nous proposons ces contributions : (1) nous montrons que des réseaux de même architecture entraînés à des tâches distinctes ont des propriétés de linéarité assez fortes entre couches; (2) Un algorithme non supervisé, remplaçant des cartes de caractéristiques du réseau vampire par une projection linéaire des cartes du premier réseau; (3) Nous montrons que le réseau vampire généré réduit fortement le nombre de paramètres, donc les calculs du système global.
Fichier principal
Vignette du fichier
ORASIS21.pdf (2.07 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03339673 , version 1 (09-09-2021)

Identifiants

  • HAL Id : hal-03339673 , version 1

Citer

Trong-Lanh Nguyen, Thierry Chateau, Guillaume Magniez. VampNet : Vampirisation non supervisée de réseaux de convolution. ORASIS 2021, Centre National de la Recherche Scientifique [CNRS], Sep 2021, Saint Ferréol, France. ⟨hal-03339673⟩
149 Consultations
69 Téléchargements

Partager

More