Les trois degrés de transparence des décisions individuelles fondées sur l’utilisation de systèmes d’IA – Du drapeau rouge de Turing à l’obligation d’explicabilité
Résumé
La réglementation française et européenne relative à l'intelligence artificielle impose une transparence à trois niveaux.
Le premier degré de transparence concerne l'obligation d'informer les individus lorsqu'ils interagissent avec un système d'IA, en particulier lors de décisions individuelles.
Le deuxième degré de transparence implique une communication plus ou moins détaillée sur les caractéristiques du système, les données traitées et la logique sous-jacente, notamment pour les systèmes d'IA à haut risque.
Le troisième degré de transparence est celui de l'explicabilité, c’est-à-dire de la capacité à expliquer de manière compréhensible le fonctionnement et les décisions du système d'IA, une condition essentielle pour la validité et l'acceptabilité des systèmes affectant les droits des personnes.