Expérimentation de la confiance d’un utilisateur de système d’IA - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2024

Expérimentation de la confiance d’un utilisateur de système d’IA

Résumé

Les systèmes à base d’IA deviennent de plus en plus présents dans la vie de tous les jours et surtout dans les activités professionnelles. Se pose alors la question de savoir ce que les humains éprouvent vis-à-vis de ces systèmes. Leurs attitudes s’apparentent déjà aux relations que peuvent avoir entre eux plusieurs humains, dans le cadre professionnel. Avec l’accroissement des services associés à ces systèmes (aide à la décision, recommandation, etc.), la question de la confiance devient particulièrement critique pour la sécurité et la performance des outils industriels. L’objectif de ce travail est d’éclairer comment la confiance que l’opérateur se construit dans le système à base d’IA vient modifier son ressenti, son comportement et ses per- formances globales dans la réalisation de sa tâche. Pour ce faire, un micro-monde a été développé et une étude expérimentale faisant intervenir 32 sujets a été conduite afin de mieux cerner la question. Les résultats montrent une adaptation du comportement en fonction du niveau de fiabilité du système, avec en particulier une confiance rapportée plus forte et une supervision moins importante quand la fiabilité de l’IA est forte.
Fichier principal
Vignette du fichier
CNIA2024_paper_15.pdf (710.77 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04621326 , version 1 (21-08-2024)

Licence

Copyright (Tous droits réservés)

Identifiants

  • HAL Id : hal-04621326 , version 1

Citer

Nicolas Maille, Kahina Amokrane-Ferka, Benoit Leblanc, Nicolas Heulot. Expérimentation de la confiance d’un utilisateur de système d’IA. Conférence Nationale en Intelligence Artificielle (CNIA-PFIA), Jul 2024, La Rochelle, France. ⟨hal-04621326⟩
30 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More