Expérimentation de la confiance d’un utilisateur de système d’IA - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2024

Expérimentation de la confiance d’un utilisateur de système d’IA

Résumé

Les systèmes à base d’IA deviennent de plus en plus pré- sents dans la vie de tous les jours et surtout dans les ac- tivités professionnelles. Se pose alors la question de sa- voir ce que les humains éprouvent vis-à-vis de ces sys- tèmes. Leurs attitudes s’apparentent déjà aux relations que peuvent avoir entre eux plusieurs humains, dans le cadre professionnel. Avec l’accroissement des services associés à ces systèmes (aide à la décision, recommandation, etc.), la question de la confiance devient particulièrement critique pour la sécurité et la performance des outils industriels. L’objectif de ce travail est d’éclairer comment la confiance que l’opérateur se construit dans le système à base d’IA vient modifier son ressenti, son comportement et ses per- formances globales dans la réalisation de sa tâche. Pour ce faire, un micro-monde a été développé et une étude expéri- mentale faisant intervenir 32 sujets a été conduite afin de mieux cerner la question. Les résultats montrent une adap- tation du comportement en fonction du niveau de fiabilité du système, avec en particulier une confiance rapportée plus forte et une supervision moins importante quand la fia- bilité de l’IA est forte.
Fichier non déposé

Dates et versions

hal-04621326 , version 1 (23-06-2024)

Licence

Copyright (Tous droits réservés)

Identifiants

  • HAL Id : hal-04621326 , version 1

Citer

Nicolas Maille, Kahina Amokrane-Ferka, Benoit Leblanc, Nicolas Heulot. Expérimentation de la confiance d’un utilisateur de système d’IA. Conférence Nationale en Intelligence Artificielle (CNIA-PFIA), Jul 2024, La Rochelle, France. ⟨hal-04621326⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More