Perspectives on AI-ML Safety Assurance - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2024

Perspectives on AI-ML Safety Assurance

Emmanuel Ledinot
  • Fonction : Auteur
  • PersonId : 1250417
Philippe Quere
  • Fonction : Auteur
  • PersonId : 1250421
Philippe Baufreton
  • Fonction : Auteur
  • PersonId : 1397964
Franck Serratrice
  • Fonction : Auteur
  • PersonId : 1250422
Hugues Bonnin
  • Fonction : Auteur
  • PersonId : 1397965
Damien Chabrol
  • Fonction : Auteur
  • PersonId : 1397966
Amina Mekki-Mokhtar
  • Fonction : Auteur
  • PersonId : 1250420
Olivier Appere
  • Fonction : Auteur
  • PersonId : 1397967
Joseph Machrouh
  • Fonction : Auteur
  • PersonId : 1052108

Résumé

AI-ML suffers from a reliability glass-ceiling phenomenon (e.g. ~10e-3 error/inference), making it incompatible with safety-criticality. Several orders of magnitude are missing. We explain why, we point to the characteristics of ML that conflict with the assurance objectives assigned to safety-critical developments. Could encapsulation of ML constituents into fault-tolerant architectures, ML development assurance, and software/hardware development assurance, altogether mitigate the gap? We argue that in spite of impressive progress of ML state-of-the-art, the answer is negative. Drawing from Topological Data Analysis (TDA) and set-based non-linear control, we propose to supplement ML point-based specification and verification with volume-based specification and verification to meet 10e-5 err./ inf. levels, as a minimum. We outline the rationale of a new research field we name (Ultra) Reliable Machine Learning, at the confluence of TDA, statistics on manifolds, and ML safety assurance. Some cross-domain safety regulation principles guide the underlying rationale. We illustrate the methodology on image classification.
Fichier principal
Vignette du fichier
Perspectives_On_ML_Safety_Assurance.pdf (1.09 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04635957 , version 1 (04-07-2024)

Licence

Copyright (Tous droits réservés)

Identifiants

  • HAL Id : hal-04635957 , version 1

Citer

Emmanuel Ledinot, Philippe Quere, Philippe Baufreton, Jean Gassino, Franck Serratrice, et al.. Perspectives on AI-ML Safety Assurance. ERTS2024, Jun 2024, Toulouse, France. ⟨hal-04635957⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More