Intégration de connaissances dans les méthodes d'explications post-hoc - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2022

Intégration de connaissances dans les méthodes d'explications post-hoc

Résumé

In the field of explainable artificial intelligence (XAI), post-hoc interpretability methods integrate user knowledge to improve the explanation understandability andallow for personalised explanations. In this paper, we propose to define a cost function that explicitly integrates such user knowledge into the interpretability objectives : we present a general framework for the optimization problem of post-hoc interpretability methods, and show that user knowledge can be integrated to any method by adding a compatibility term in the cost function. We instantiate the proposed formalization in the case of counterfactual explanations and propose a new interpretability method called Knowledge Integration in Counterfactual Explanation (KICE).
Dans le domaine de l'intelligence artificielle explicable (XAI), les méthodes d'interprétabilité post-hoc intègrent des connaissances utilisateur afin d'améliorer la compréhension de l'explication et de proposer des explications personnalisées. Dans cet article, nous proposons de définir une fonction de coût qui intègre explicitement ces connaissances dans les objectifs d'interprétabilité : nous présentons un cadre général pour le problème d'optimisation des méthodes d'interprétabilité post-hoc, et montrons que les connaissances de l'utilisateur peuvent être intégrées à toute méthode en ajoutant un terme de compatibilité dans la fonction de coût. Nous instancions la formalisation proposée dans le cas des explications contre-factuelles et proposons une nouvelle méthode d'interprétabilité appelée Knowledge Integration in Counterfactual Explanation (KICE).
Fichier principal
Vignette du fichier
Jeyasothy2022_LFA.pdf (346.89 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04008913 , version 1 (24-05-2023)

Licence

Paternité

Identifiants

  • HAL Id : hal-04008913 , version 1

Citer

Adulam Jeyasothy, Thibault Laugel, Marie-Jeanne Lesot, Christophe Marsala, Marcin Detyniecki. Intégration de connaissances dans les méthodes d'explications post-hoc. Rencontres francophones sur la logique floue et ses applications, Oct 2022, Toulouse, France. ⟨hal-04008913⟩
37 Consultations
30 Téléchargements

Partager

Gmail Facebook X LinkedIn More