La mesure des biais est essentielle afin de pouvoir modifier chaque fois que nécessaire les paramètres des algorithmes en fonction de valeurs humaines spécifiques : neutralité, loyauté, équité...On se focalise dans ce texte sur l’équité. Mieux on mesure les biais, plus la réflexion sur des choix équitables peut progresser. Le « rasoir d’Ockham » permet de formuler une définition simple du biais algorithmique comme symptôme, notamment pour ce qui concerne la part non modélisable d’une décision. Cette part correspond à des a priori, des stéréotypes,des cas exceptionnels, des relations de causes à effet non observables dans les observations passées, ou sur des événements futurs. Un biais est aussi un «phénomène subjectif qui traduit les états morbides et qui est lié aux troubles fonctionnels ou lésionnels qui le déterminent ». L’algorithmique peut alors permettre de révéler un symptôme humain resté jusque-là invisible ou mal connu. Le point crucial est ici la subjectivité. La machine en manque définitivement quand l’humain est parfois dépassé par elle. La question est donc d’articuler la mesure des biais et la réflexion éthique sur le machine learning plutôt que de les opposer. C’est en ce point précis que peuvent se rencontrer deux théories des biais en première analyse incompatibles : l’une issue de l’algorithmique et l’autre issue de la théorisation de l’inconscient humain et de la subjectivité de chacun