Intégration de connaissances dans les méthodes d'explications post-hoc
Résumé
In the field of explainable artificial intelligence (XAI), post-hoc interpretability methods integrate user knowledge to improve the explanation understandability andallow for personalised explanations. In this paper, we propose to define a cost function that explicitly integrates such user knowledge into the interpretability objectives : we present a general framework for the optimization problem of post-hoc interpretability methods, and show that user knowledge can be integrated to any method by adding a compatibility term in the cost function. We instantiate the proposed formalization in the case of counterfactual explanations and propose a new interpretability method called Knowledge Integration in Counterfactual Explanation (KICE).
Dans le domaine de l'intelligence artificielle explicable (XAI), les méthodes d'interprétabilité post-hoc intègrent des connaissances utilisateur afin d'améliorer la compréhension de l'explication et de proposer des explications personnalisées. Dans cet article, nous proposons de définir une fonction de coût qui intègre explicitement ces connaissances dans les objectifs d'interprétabilité : nous présentons un cadre général pour le problème d'optimisation des méthodes d'interprétabilité post-hoc, et montrons que les connaissances de l'utilisateur peuvent être intégrées à toute méthode en ajoutant un terme de compatibilité dans la fonction de coût. Nous instancions la formalisation proposée dans le cas des explications contre-factuelles et proposons une nouvelle méthode d'interprétabilité appelée Knowledge Integration in Counterfactual Explanation (KICE).
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
