Abstract interpretation limitations for deep neural network robustness evaluation
Résumé
The formal verification of neural networks has been widely studied in recent years to estimate the robustness of networks against attacks. We address the problem of specifying generic and compound attacks in the form of abstract domains to better characterize the inputs of a neural network and be able to evaluate the impact of its possible disturbances. We consider the realistic case with perspective geometric attacks applied to colour images and occlusion effects on the edges that we correct with inpainting. We study the effect of the digital inpainting on the robustness performance and evaluate the existing difference between real and simulated attacks.
La vérification formelle des réseaux de neurones a été largement étudiée ces dernières années pour estimer la robustesse des réseaux de neurones face aux attaques. Nous abordons le problème de spécifier des attaques génériques et composées sous forme de domaines abstraits pour mieux caractériser les entrées d'un réseau de neurones et pouvoir évaluer l'impact de leurs éventuelles perturbations. Nous considérons le cas réaliste avec des attaques géométriques en perspective appliquées à des images couleurs et des effets d'occultation sur les bords que nous corrigeons avec la méthode "inpainting". Nous étudions l'effet de l'inpainting sur l'éxactitude de l'évaluation de la robustesse et estimer la différence entre les attaques réélles et les attaques simulées.
Origine | Fichiers produits par l'(les) auteur(s) |
---|---|
Licence |