Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos

Résumé

Apprendre sur les données codées avec un codeur entropique présente de nombreux avantages : cela permet d'éviter de décoder tout en ayant des données de taille plus faible à traiter. Pourtant cette manière d'apprendre n'a pas été explorée à cause du chaos introduit par les codeurs entropiques. En effet, la pièce centrale des algorithmes d'apprentissage profond, la convolution a besoin que la fonction d'encodage préserve la distance entre les pixels (proximité spatiale), ainsi que la distance entre les valeurs de ces mêmes pixels (proximité sémantique). Même si ces deux propriétés ne sont pas satisfaites par les codeurs entropiques, nous avons montré précédemment que l'apprentissage sur des données codées par un codeur entropique est possible et que la précision de cet apprentissage dépend du respect de ces proximités. Dans ce papier nous mesurons cette dépendance et introduisons une nouvelle métrique qui mesure le chaos dans une représentation de données. Cette mesure est facile à calculer, car elle ne dépend que des données codées. Cette dernière nous permet de prédire la précision de notre apprentissage sur les données codées.
Fichier principal
Vignette du fichier
gretsi2023-2.pdf (233.1 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04384164 , version 1 (10-01-2024)

Identifiants

  • HAL Id : hal-04384164 , version 1

Citer

Rémi Piau, Thomas Maugey, Aline Roumy. Prédiction de la précision d'apprentissage des réseaux de neurones convolutifs par mesure du chaos. GRETSI 2023, Aug 2023, Grenoble, France. ⟨hal-04384164⟩
19 Consultations
12 Téléchargements

Partager

Gmail Facebook X LinkedIn More