L'équité dans la machine ou comment le machine learning devient scientifique en tournant le dos au réalisme métrologique
Résumé
In this paper we argue that Fairness in Machine Learning (FairML) is a good observatory for the politics of statistics and its current transformation. While classical statisticians have long been careful to ensure that their measurement tools do not contain any political traces, data scientists, as developers of predictive machines, are now forced by the fairness problems they have to deal with to converge two often distinct stances: the demanding search for the reliability of computational procedures and the concern for transparency of the constructed and politically situated character of quantification operations. Having socially situated the emergence of the FairML field and described the particular epistemological framework in which it is embedded, we will then see how researchers concretely deals with both the mathematical construction and the social construction of approaches. We describe how FairML approaches emerge from controversies about equity metrics and their status in machine learning. Finally, we will show that these approaches tend towards a specific form of objectivity, that of 'exercised judgement' , based on a partial perspective and a reasonably biased justification of the machine designer - the machine thus becoming politically situated itself.
Nous soutenons dans cet article que la prise en compte de la fairness dans le machine learning (FairML) est un bon observatoire de la politique des statistiques et de leur transformation actuelle. Si les statisticiens classiques ont longtemps veillé à ce que leurs outils de mesure ne contiennent aucune trace politique, les data scientists, développeurs de machines prédictives, sont désormais contraints, par les problèmes d'équité qu'ils doivent traiter, de faire converger deux postures souvent distinctes : la recherche exigeante de la fiabilité des procédures de calcul et le souci de transparence du caractère construit et politiquement situé des opérations de quantification. Après avoir localisé socialement la formation du domaine FairML et décrit le cadre épistémologique particulier dans lequel il s'inscrit, nous verrons dans un second temps comment, concrètement, les chercheurs parviennent à penser à la fois construction mathématique et construction sociale des approches, à l'issue de controverses sur les métriques d'équité et leur statut dans l'apprentissage machine. Nous montrerons enfin que les approches du FairML tendent vers une forme d'objectivité spécifique, celle du « jugement exercé », reposant sur une perspective partielle et une justification raisonnablement partiale du concepteur de la machine – cette dernière devenant dès lors elle-même située politiquement.
