Composer une salade CAISAR avec des réseaux de neurones et de l'édition de graphe
Résumé
L'intégration de réseaux de neurones dans des systèmes logiciels critiques comporte un obstacle majeur : la sous-spécification intrinsèque de leur domaine d'entrée. En conséquence, la communauté de recherche se focalise sur la spécification de propriétés simples, à l'échelle de la fonction. Les méthodes formelles (et leur inséparable partenaire, les spécifications formelles) restent donc bornées à des problèmes peu expressifs. Plus spécifiquement, les langages de spécification existants peinent à exprimer des propriétés allant au-delà de la comparaison arithmétique entre variables flottantes ou impliquant la composition de fonctions. Afin de lever ces limites, nous étendons le langage de spécification de la plateforme de vérification Why3 afin de formaliser les propriétés impliquant plusieurs composants. Ce langage est implémenté au sein de la plateforme CAISAR. Nous augmentons son évaluation avec des techniques d'édition de graphe qui exploitent la structure simple du standard de représentation ONNX. L'édition automatique de graphe nous permet de créer automatiquement des réseaux encodant des spécifications directement dans leur flot de contrôle -et de les vérifier à l'aide de prouveurs dédiés sans aucune modification de leur code. Ces développements au sein de CAISAR offrent de nouvelles possibilités pour la spécification -et la vérification -de propriétés complexes, telles que des hyperpropriétés.
Domaines
Informatique [cs]Origine | Fichiers produits par l'(les) auteur(s) |
---|