LE CONTRÔLE HUMAIN DES SYSTÈMES ALGORITHMIQUES - UN REGARD CRITIQUE SUR L'EXIGENCE D'UN "HUMAIN DANS LA BOUCLE"
Résumé
Un consensus dans l’univers du droit a émergé sur la nécessité d’un “humain dans la boucle” pour les systèmes IA en particulier quand ils ont un impact important pour les droits humains (déclenchement d’un contrôle policier, refus d’un prêt…). Simple en apparence, le principe de l’humain dans la boucle pose cependant de nombreuses questions, à commencer par ; “à quoi sert-il ?” et “comment l'organiser pour qu'il soit efficace?”
L'intervention humaine est supposée être un remède à plusieurs maux algorithmiques : elle permettrait de détecter des erreurs algorithmiques, de rendre le processus algorithmique “plus juste”, et de contribuer à une meilleure responsabilisation des décisions algorithmiques. Mais comment l'humain peut-il faire tout cela en même temps, surtout lorsqu'il n'a que quelques secondes pour agir face à une quantité vertigineuse de données à examiner ?
Cet ouvrage examine la question de “l’humain dans la boucle” sous l’angle des droits fondamentaux, du futur règlement européen IA Act, et des sciences informatiques et cognitives, une approche qui permet de passer du principe éthique du contrôle humain à ses réalités opérationnelles. Mettre un “humain dans la boucle” peut être une fausse bonne idée, l'humain devenant lui-même un automate qui valide les résultats algorithmiques. Comment éviter un nivellement par le bas, et s'assurer que l'humain et la machine gardent chacun leurs spécificités et leur valeur ajoutée ? L'auteur propose une approche analytique qui allie respect des droits humains et efficacité opérationnelle des systèmes d'IA.
Fichier principal
Le contrôle humain des systèmes algorithmiques - mémoire original HDR W. Maxwell-5.pdf (1.18 Mo)
Télécharger le fichier
Origine | Fichiers produits par l'(les) auteur(s) |
---|---|
Licence |