L’adoption de mesures de contrôle humain permet d’encadrer, à des degrés divers et suivant des modalités variées, le processus décisionnel des systèmes d’intelligence artificielle, par exemple en plaçant une personne humaine en supervision du système et, en amont, en le développant techniquement pour permettre une telle supervision. Au sein de la gouvernance mondiale de l’IA, l’exigence de contrôle humain est concrétisée par plusieurs formats régulatoires, au sein d’une diversité de sources normatives. Elle permet, d’une part, de responsabiliser les utilisateurs desdits systèmes (par exemple, en leur imposant d’opérer certains contrôles) et, d’autre part, de protéger les personnes affectées par la décision (par exemple, en leur permettant de demander une révision de la décision). Dans le contexte européen, l’AI Act fait peser sur les fournisseurs de SIA à haut-risque (et dans une certaine mesure également sur les utilisateurs professionnels de ces systèmes qualifiés de déployeurs) des obligations dont la mise en place d’outils de contrôle humain, tout au long du cycle de vie des SIA, y compris by design (et leur mise en œuvre par les déployeurs). Le législateur de l’Union va donc beaucoup plus loin que par le passé dans « l’explicitation » de l’exigence légale de contrôle humain. Mais il n’entend pas pour autant tout prévoir ; il fait appel à la normalisation pour étoffer techniquement cette exigence (et plus largement l’ensemble des exigences de la section 2 du chapitre III) sur le fondement de l’article 40 de l’AI Act. Dans ce contexte règlementaire multi-niveaux, la question de la place de l’humain dans le processus décisionnel de l’IA doit particulièrement retenir l’attention. En effet, selon que c’est la loi ou la norme technique qui fixe les contours du contrôle humain, la « gouvernance régulatoire » de l’IA n’a pas le même visage : sa nature, sa teneur et sa portée sont différentes. Cette réflexion est au cœur de la contribution des juristes à la réflexion centrale sur la gouvernance régulatoire la plus appropriée – tout à la fois quant à son format institutionnel et à sa substance – pour assurer l’effectivité du contrôle humain au service d’une IA de confiance. Cela vaut particulièrement pour l’AI Act dont l’actualité, le large champ d’application et la probable influence mondiale en font un texte incontournable. Comment l’AI Act a-t-il prévu de répartir l’exigence de contrôle humain entre ses dispositions de hard law et celles, volontaires, confiées à la normalisation ? Et cette répartition est-elle convaincante pour garantir un écosystème de confiance ? Deux axes analytiques, classiques en droit, sont proposés dans ce chapitre, pour esquisser quelques éléments de réponse s’agissant de la place à accorder aux normes techniques, en contemplation de la loi européenne, en matière de contrôle humain. Il s’agit, en premier lieu, de l’étude de la notion de contrôle humain et, en second lieu, de celle de son régime. S’agissant, en premier lieu, de l’analyse régulatoire du contrôle humain dans son volet notionnel, elle permet de montrer le rôle premier de la loi pour arrêter les contours notionnels de l’exigence de contrôle humain. Le relai de la norme est essentiel lorsqu’il s’agit d’étendre la portée notionnelle du contrôle humain au service de l’industrie mondiale de l’IA et d’agencer cette exigence dans l’architecture normative de l’IA de confiance. S’agissant, en second lieu, de l’analyse régulatoire du contrôle humain dans son volet de mise en œuvre, elle a permis de montrer le rôle premier de la loi dans l’établissement de « degrés obligationnels » dans les différentes mesures et procédés d’exercice du contrôle humain à la charge des fournisseurs et déployeurs de systèmes d’IA. Ainsi, le contrôle humain joue à des degrés de rigueur variables, tout en laissant une marge de manœuvre opérationnelle aux opérateurs. La norme prend le relai pour approfondir techniquement la granularité de ces degrés obligationnels pour telle ou telle mesure de contrôle humain et pour les concrétiser à travers des outils techniques de mise en œuvre.