Expérimentation de la confiance d’un utilisateur de système d’IA
Résumé
Les systèmes à base d’IA deviennent de plus en plus pré-
sents dans la vie de tous les jours et surtout dans les ac-
tivités professionnelles. Se pose alors la question de sa-
voir ce que les humains éprouvent vis-à-vis de ces sys-
tèmes. Leurs attitudes s’apparentent déjà aux relations que
peuvent avoir entre eux plusieurs humains, dans le cadre
professionnel. Avec l’accroissement des services associés à
ces systèmes (aide à la décision, recommandation, etc.), la
question de la confiance devient particulièrement critique
pour la sécurité et la performance des outils industriels.
L’objectif de ce travail est d’éclairer comment la confiance
que l’opérateur se construit dans le système à base d’IA
vient modifier son ressenti, son comportement et ses per-
formances globales dans la réalisation de sa tâche. Pour ce
faire, un micro-monde a été développé et une étude expéri-
mentale faisant intervenir 32 sujets a été conduite afin de
mieux cerner la question. Les résultats montrent une adap-
tation du comportement en fonction du niveau de fiabilité
du système, avec en particulier une confiance rapportée
plus forte et une supervision moins importante quand la fia-
bilité de l’IA est forte.