Explanation for Humans, for Machines, for Human-Machine Interactions? - Archive ouverte HAL Access content directly
Conference Papers Year : 2021

Explanation for Humans, for Machines, for Human-Machine Interactions?

Abstract

The XAI concept was launched by the DARPA in 2016 in the context of model learning from data with deep learning methods. Although the machine learning community quickly took up on the topic, other communities have also included explanation in their research agenda (e.g. Case Based Reasoning, Planning, Decision Support, Emerging Systems, Robotics, Internet of Things). The question of explanation, which is at the center of philosophical research works, has been revisited during the last decades. The humanities community insists on the fact that explanation is above all a process that develops in the context of the search for explanation and cannot be completely defined a priori. In this contribution, we propose 1) to broaden the question of explanation to any type of situation in which users exploit the possibilities of decision support agents for their own decisions, in the context of their task, and within the framework of their activities and responsibilities and 2) to consider an instrumentation of digital devices, able to manage dynamic explanation agents associated to corresponding decision support agents. We denote this evolution "UXAI" (User eXplainable Artificial Intelligence) because we consider that users should be the main actors in the dynamics of any explanation process.
Le concept XAI a été lancé par la DARPA en 2016 dans le contexte de l'apprentissage de modèles à partir de données avec des méthodes d'apprentissage approfondi. Bien que la communauté de l'apprentissage machine ait rapidement abordé le sujet, d'autres communautés ont également inclus l'explication dans leur programme de recherche (par exemple, le raisonnement basé sur des cas, la planification, l'aide à la décision, les systèmes émergents, la robotique, l'Internet des objets). La question de l'explication, qui est au centre des travaux de recherche philosophique, a été revisitée au cours des dernières décennies. La communauté des sciences humaines insiste sur le fait que l'explication est avant tout un processus qui se développe dans le cadre de la recherche d'explication et ne peut être complètement définie a priori. Dans cette contribution, nous proposons 1) d'élargir la question de l'explication à tout type de situation dans laquelle les utilisateurs exploitent les possibilités des agents d'aide à la décision pour leurs propres décisions, dans le cadre de leur tâche, et dans le cadre de leurs activités et responsabilités et 2) d'envisager une instrumentation de dispositifs numériques, capable de gérer des agents d'explication dynamiques associés aux agents d'aide à la décision correspondants. Nous dénommons cette évolution "UXAI" (User eXplainable Artificial Intelligence) car nous considérons que les utilisateurs devraient être les principaux acteurs de la dynamique de tout processus d'explication.
Fichier principal
Vignette du fichier
Explanation__what_does_it_mean_for_humans__for_machines__for_man_machine_interactions__.pdf (92.21 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-03106286 , version 1 (11-01-2021)

Identifiers

  • HAL Id : hal-03106286 , version 1

Cite

Rémy Chaput, Amélie Cordier, Alain Mille. Explanation for Humans, for Machines, for Human-Machine Interactions?. AAAI-2021, Explainable Agency in Artificial Intelligence WS, AAAI, Feb 2021, Virtual Conference, United States. ⟨hal-03106286⟩
535 View
1222 Download

Share

Gmail Facebook X LinkedIn More