La transparence des algorithmes face à l'Open Data : Quel statut pour les données d'apprentissage ?
Résumé
Cet article s'intéresse aux problématiques liées à l’application d’algorithmes dans les décisions administratives, et plus particulièrement aux données et méthodes utilisées dans ces applications. Le législateur s’est jusqu’à présent focalisé sur la transparence de la “décision” qui n’est qu’un certain type de traitement de données. Mais rien n’est précisé sur les données qui vont influencer ces algorithmes, c’est à dire les données qui se trouvent en amont de la décision. On fait l’hypothèse dans cet article que ce droit à l’explication devrait porter aussi sur les données utilisées pour entraîner ces algorithmes.
On fera d’abord un rappel de l’évolution des politiques d’Open data, puis on parlera des nouvelles tendances vers l’algorithmisation du droit et de l’administration dans le contexte du gouvernement ouvert et le rôle joué par les données au sein de ces nouveaux processus décisionnels. Enfin, on analysera la difficulté d’assurer une réelle transparence pour de nouveaux types d’algorithmes (e.g. les algorithmes d’apprentissage automatique) qui seront de plus en plus utilisés au sein de l’administration. Nous soulignerons notamment la nécessité - actuellement encore peu explorée - de garantir non seulement l’accès au code source de ces algorithmes, mais aussi l’accès aux bases de données qui les ont entraînés, ainsi qu’aux critères de sélection utilisés pour construire ces base d’apprentissage.
Fichier principal
61 - (2018) - RFAP - Transparence des Algorithmes (version Open Data).pdf (384.36 Ko)
Télécharger le fichier
Origine | Fichiers produits par l'(les) auteur(s) |
---|