Liens entre confiance et acceptabilité dans un dispositif IA - Archive ouverte HAL Access content directly
Conference Papers Year : 2022

Relationship between trust and acceptability in AI

Liens entre confiance et acceptabilité dans un dispositif IA

Abstract

Several studies have presented trust as crucial to predict AI acceptability. We aim to involve statistical and social measures of trust, to confirm links between trust and acceptability, and between trust and emotional variation, with an experimental protocol inspired by [1]. Sixty participants are asked to estimate ages on portraits; then, an AI model suggests its own prediction based on facial features, along with its stated confidence. Participants can then keep or change their initial prediction. Three measures are used to quantify their confidence in the model: the proportion of agreements and changes, and fixation duration. Participants are also asked to complete a questionnaire to measure their trust and acceptance, and their facial expressions are recorded during the experiment to assess emotional variation. Therefore, this research allows to better understand links between trust, emotions, and acceptability in AI.
Diverses études présentent la confiance comme essentielle pour tirer profit des solutions d’IA, et comme prédictive de son acceptabilité. Notre étude a pour objectif de mobiliser des mesures statistiques et sociales de la confiance, de réaffirmer les liens entre confiance et acceptabilité, et entre confiance et variation émotionnelle. Cet abstract présente le protocole expérimental mis en place, inspiré par [ 1]. Des portraits sont présentés à 60 participants, devant estimer leur âge ; puis un modèle IA propose sa propre prédiction à partir de caractéristiques faciales, ainsi que sa confiance déclarée. Les participants ont alors le choix entre conserver leur prédiction initiale ou changer de réponse. Pour mesurer le comportement des participants, nous récoltons les proportions d’accords et de changements face aux prédictions du modèle, et nous enregistrons le temps des fixations oculaires et leurs expressions faciales. Les participants remplissent également un questionnaire pour mesurer leur confiance et acceptation dans le modèle. Cette recherche nous permet ainsi de mieux comprendre les liens entre confiance, variation émotionnelle, et acceptabilité en l’IA.
Fichier principal
Vignette du fichier
IHM_22___Atelier_IHM_et_XAI (3).pdf (233.21 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-03789503 , version 1 (27-09-2022)

Identifiers

  • HAL Id : hal-03789503 , version 1

Cite

Alexandre Agossah, Lucie Lévêque, Matthieu Perreira da Silva, Patrick Le Callet, Frédérique Krupa, et al.. Liens entre confiance et acceptabilité dans un dispositif IA. 33ème Conférence Internationale Francophone sur l'Interaction Humain-Machine (IHM 22), Apr 2022, Namur, Belgique. ⟨hal-03789503⟩
100 View
33 Download

Share

Gmail Facebook X LinkedIn More