Communication Dans Un Congrès Année : 2025

Les étoiles montantes de l'apprentissage distribué

Résumé

À l'inverse de l'apprentissage centralisé classique, qui impose de faire confiance à un opérateur unique chargé d'agréger les données et d'entraîner les modèles d'IA, l'apprentissage décentralisé offre un niveau supérieur de confidentialité et de tolérance aux pannes. Une approche populaire, l'apprentissage fédéré, repose sur un agrégateur central, héritant ainsi de certaines limites de l'apprentissage centralisé notament en terme de tolérence aux pannes. De manière alternative, l'apprentissage par commérages permet une décentralisation complète au prix d'une convergence plus lente. Dans ce travail, nous introduisons HEAL, un protocole d'apprentissage décentralisé qui repose sur un réseau pair-à-pair doté d'une topologie optimisée pour l'apprentissage décentralisé, où des noeuds hub émergent. Les hubs jouent un rôle clé en tant qu'agrégateurs de modèles. L'emergence des hubs est réalisée via un processus auto-organisé, auto-réparateur et entièrement décentralisé. À travers des simulations, nous montrons que HEAL atteint des performances comparables à celles de l'apprentissage fédéré dans des environnements sans pannes, tout en restant entièrement décentralisé et tolérant aux pannes. Ces résultats positionnent HEAL comme une solution robuste et efficace pour l'apprentissage décentralisé.

Fichier principal
Vignette du fichier
AlgoTel2025HEAL.pdf (395.91 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

hal-05029894 , version 1 (10-04-2025)

Licence

Identifiants

  • HAL Id : hal-05029894 , version 1

Citer

Mohamed Amine Legheraba, Stefan Galkiewicz, Maria Potop-Butucaru, Sébastien Tixeuil. Les étoiles montantes de l'apprentissage distribué. ALGOTEL 2025 – 27èmes Rencontres Francophones sur les Aspects Algorithmiques des Télécommunications, Jun 2025, Saint Valery-sur-Somme, France. ⟨hal-05029894⟩
228 Consultations
137 Téléchargements

Partager

  • More