Confiance envers les technologies d’IA en santé. Questionner l’autorité de la machine
Résumé
Cette conférence interroge les conditions de possibilité de l’algorithmisation des technologies de santé. S’inscrivant à la suite du processus de digitalisation de ces dernières ou dans le fil de leur « dataification », le développement des systèmes d’algorithmes (à savoir, les réseaux de neurones apprenants) repose sur une accoutumance à l’action des machines, qui elle-même est fondée sur la confiance que l’on accorde à ces dernières. Cette confiance ne tient pas seulement à leur fiabilité, elle renvoie d’abord à une réalité socio-psychologique ancienne et profonde. Le caractère dynamique des systèmes d’algorithmes, ensuite, dispose à les intégrer dans les processus d’accompagnement médicaux et de soins mais aussi, certes aujourd’hui de manière partielle mais de plus en plus à mesure que les technologies se perfectionnent, dans ceux qui concernent la prise de décision (notamment via leurs capacités de prédiction). La conférence se penche sur les risques éthiques et politiques de la tendance à déléguer une forme d’autorité aux machines dans les processus médicaux.