Communication Dans Un Congrès Année : 2025

Approaches for strengthening embedded AI against attacks disrupting federated learning

Approches pour le renforcement d'une IA embarquée face aux attaques perturbant le federated learning

Résumé

Machine learning is increasingly integrated into our daily lives, particularly through personalized systems. However, data confidentiality poses a major challenge. Federated learning (FL) addresses this issue by enabling models to be trained without sharing sensitive data. However, although FL guarantees data confidentiality, it remains vulnerable to various attacks, such as data poisoning attacks or inference on model weights. The observation made is that all the models deployed in this FL context can be considered as variants of the global model, thus echoing the world of software variability. This thesis therefore proposes to adapt software testing and variability management techniques to reinforce the security and robustness of the FL, taking into account its evolution over time and its specificities.

Le machine learning est de plus en plus intégré dans nos vies quotidiennes, notamment à travers des systèmes personnalisés. Toutefois, la confidentialité des données pose un défi majeur. L'apprentissage fédéré (FL) répond à cette problématique en permettant l'entraînement de modèles sans partager les données sensibles. Cependant, bien que FL garantisse la confidentialité des données, il reste vulnérable à diverses attaques, comme les attaques par empoisonnement des données ou l'inférence sur les poids du modèle. L'observation faite est que l'ensemble des modèles déployés dans ce contexte FL peuvent être considérés comme des variants du modèle global, faisant ainsi écho au monde de la variabilité logicielle. Cette thèse propose donc d'adapter des techniques de test logiciel et de gestion de la variabilité pour renforcer la sécurité et la robustesse du FL, en tenant compte de son évolution dans le temps et de ses spécificités.

Fichier principal
Vignette du fichier
RESSI_2025_final.pdf (159.88 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

hal-05004582 , version 1 (25-03-2025)

Licence

Identifiants

  • HAL Id : hal-05004582 , version 1

Citer

Camille Molinier, Paul Temple, Olivier Zendra, Olivier Barais. Approches pour le renforcement d'une IA embarquée face aux attaques perturbant le federated learning. Ressi 2025 - Rendez-Vous de la Recherche et de l'Enseignement de la Sécurité des Systèmes d'Information, May 2025, Lanniron, France. pp.1-3. ⟨hal-05004582⟩
227 Consultations
184 Téléchargements

Partager

  • More