Bias: a techno-solutionist concept?
Biais : un concept technosolutionniste ?
Résumé
Work presented in the context of the seminar "Concepts of computer ethics" within the Ethics&IA chair of the Grenoble Institute of Artificial Intelligence (MIAI).
Recommanded citation: Ambre Davat, « Biais, intelligence artificielle et technosolutionnisme », partie de l’œuvre collective intitulée Éthique, politique, religions. 2023 – 1. n° 22. L’éthique de l’intelligence artificielle à travers les dispositifs et les pouvoirs, à paraître dans la collection « Éthique, politique, religions » (dirigée par Thierry Gontier)
The word “bias” is frequently used in the field of artificial intelligence (AI), for example to regret the lack of diversity among computer scientists, the non-representativity of data bases, or the existence of implicit stereotypes in statistical models. However, this concept, its potential causes, and even consequences are not always clearly defined. In this article, we wish to answer the following question: What does it mean when people talk about bias in AI? Our hypothesis is that this word “bias” is actually referring to different norms, which should be made explicit in order to be politically questionable. We will show that taking biases into account is not enough to address criticisms against AI, but on the contrary, can perfectly be a way to avoid criticism in a technosolutionist approach.
Travail présenté dans le cadre du séminaire "Concepts de la computer ethics" au sein de la chaire Ethique&IA de l'institut d'intelligence artificielle de Grenoble (MIAI).
Citation recommandée : Ambre Davat, « Biais, intelligence artificielle et technosolutionnisme », partie de l’œuvre collective intitulée Éthique, politique, religions. 2023 – 1. n° 22. L’éthique de l’intelligence artificielle à travers les dispositifs et les pouvoirs, à paraître dans la collection « Éthique, politique, religions » (dirigée par Thierry Gontier)
Le mot « biais » est fréquemment utilisé dans le domaine de l’intelligence artificielle (IA), par exemple pour regretter le manque de diversité parmi les informaticiens, la non-représentativité des bases de données, ou encore l’existence de stéréotypes implicites dans les modèles statistiques. Cependant, ce concept de biais, ses causes potentielles et même ses conséquences ne sont pas toujours clairement définis. Dans cet article, nous proposons donc de répondre à la question suivante : De quoi parle-t-on lorsqu’on parle de biais en IA ? Notre hypothèse est que ce mot « biais » fait en réalité référence à plusieurs normes qu’il s’agit d’expliciter, afin de pouvoir en débattre politiquement. Nous montrerons que loin d’épuiser les reproches formulés à l’encontre de l’IA, le concept de « biais » peut parfaitement servir un discours technosolutionniste.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|