Une Analyse PAC-Bayésienne de la Robustesse Adversariale
Résumé
Dans ce papier, nous adaptons le cadre de la robustesse adversariale au cadre PAC-Bayésien connu pour fournir des bornes précises en moyenne sur l'ensemble d'hypothèses (plutôt qu'une analyse en pire cas). Cette approche nous permet de démontrer des bornes en généralisation sur le risque de modèles s'exprimant comme un vote de majorité et estiment à quel point le modèle est invariant aux perturbations imperceptibles de l'entrée. Cette analyse théorique a l'avantage de fournir des bornes générales (i) indépendantes du type de perturbations (i.e., les attaques adversariales), (ii) précises et (iii) et directement minimisable pendant la phase d'apprentissage. Nous démontrons empiriquement que les modèles obtenus sont robustes face à différentes attaques au moment de la classification.