Artificial Intelligence (AI) and scientific truth: the contributions of the European Regulation on AI (AI Act)
Intelligence Artificielle (IA) et vérité scientifique : les apports du Règlement Européen sur l’IA (RIA)
Résumé
Artificial intelligence systems (AIS) are disrupting the relationship between humans and digital tools and the information they generate. Reputed to be more reliable, even irrefutable, the information produced by AIS seems to carry a certain scientific truth based on often complex and autonomous machine learning models that give the tool an unprecedented capacity for “reasoning” with which to compose. The European Union (EU), with its proposed Regulation on Artificial Intelligence (AI) (AIA - COM/2021/206 final), seeks to regulate the practices of AIS providers to ensure that AIS is placed on the market or put into service in an ethical, lawful and safe manner. Considering scientific truth to be a common good to be protected in the public interest and AI to be a useful tool but one that presents risks in this regard, it seems necessary to consider what the proposed future legal framework could contribute to preventing the marketing and use of scientifically unfounded and potentially dangerous AIS. This article puts into perspective certain rules of the AIA that would support the preservation of scientific truth. We conclude that this issue is implicit and inherent in the objectives of the AIA, which would be based on governance by and for humans, in line with the rights and values upheld in the EU, promoting the control and proper use of AIs throughout their life cycle. Certain planned legal requirements would effectively contribute to guaranteeing a European market for scientifically high-quality, high-performance and reliable AIS, which could be considered to express a scientific truth that humans can trust.
Les systèmes d'intelligence artificielle (SIA) perturbent les rapports que l'homme entretient avec les outils numériques et l'information qu'ils génèrent. Réputée plus fiable, voire irréfutable, l'information produite par les SIA semble porteuse d'une certaine vérité scientifique fondée sur des modèles d'apprentissage-machine souvent complexes et autonomes donnant à l'outil une capacité de « raisonnement » inédite avec laquelle composer. L'Union Européenne (UE), avec la proposition de Règlement sur l'Intelligence Artificielle (IA) (RIA -COM/2021/206 final), cherche à encadrer les pratiques des fournisseurs de SIA pour assurer la mise sur le marché ou la mise en service de SIA éthiques, licites et sûrs. En considérant la vérité scientifique comme un bien commun à protéger dans l'intérêt public et l'IA comme un outil utile mais présentant des risques à son égard, il parait nécessaire d'envisager quels seraient les apports du futur cadre juridique proposé afin de prévenir la commercialisation et l'utilisation de SIA scientifiquement infondés potentiellement dangereux. Cet article met en perspective certaines règles du RIA qui soutiendraient la préservation de la vérité scientifique. Nous concluons que cet enjeu est implicite et inhérent aux objectifs du RIA qui reposeraient sur une gouvernance assurée par et pour l'humain, en adéquation avec les droits et valeurs défendus dans l'UE, favorisant la maîtrise et le bon usage des SIA le long de leur cycle de vie. Certaines exigences légales prévues contribueraient effectivement à garantir un marché Européen de SIA scientifiquement qualitatifs, performants et fiables, que l'on pourrait considérer comme exprimant une vérité scientifique en laquelle l'homme peut avoir confiance.