Abstract interpretation limitations for deep neural network robustness evaluation - IRT SystemX Accéder directement au contenu
Communication Dans Un Congrès Année : 2022

Abstract interpretation limitations for deep neural network robustness evaluation

Résumé

The formal verification of neural networks has been widely studied in recent years to estimate the robustness of networks against attacks. We address the problem of specifying generic and compound attacks in the form of abstract domains to better characterize the inputs of a neural network and be able to evaluate the impact of its possible disturbances. We consider the realistic case with perspective geometric attacks applied to colour images and occlusion effects on the edges that we correct with inpainting. We study the effect of the digital inpainting on the robustness performance and evaluate the existing difference between real and simulated attacks.
La vérification formelle des réseaux de neurones a été largement étudiée ces dernières années pour estimer la robustesse des réseaux de neurones face aux attaques. Nous abordons le problème de spécifier des attaques génériques et composées sous forme de domaines abstraits pour mieux caractériser les entrées d'un réseau de neurones et pouvoir évaluer l'impact de leurs éventuelles perturbations. Nous considérons le cas réaliste avec des attaques géométriques en perspective appliquées à des images couleurs et des effets d'occultation sur les bords que nous corrigeons avec la méthode "inpainting". Nous étudions l'effet de l'inpainting sur l'éxactitude de l'évaluation de la robustesse et estimer la différence entre les attaques réélles et les attaques simulées.
Fichier principal
Vignette du fichier
FaouziAdjed204.pdf (460.21 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
licence : CC BY - Paternité

Dates et versions

hal-03800100 , version 1 (27-02-2023)

Identifiants

  • HAL Id : hal-03800100 , version 1

Citer

Faouzi Adjed, Mallek Mziou Sallami. Abstract interpretation limitations for deep neural network robustness evaluation. TAIMA'22 - Traitement et Analyse de l'Information Méthodes et Applications, May 2022, Hammamet, Tunisia. ⟨hal-03800100⟩
71 Consultations
71 Téléchargements

Partager

Gmail Facebook X LinkedIn More