Capturing stakeholders values and preferences regarding algorithmic systems
Capturer les valeurs et préférences des utilisateurs face à un système intelligent
Résumé
Complex-decisions made by algorithmic systems should embed interests and values of the different stakeholders involved in the making of these systems. In this paper, we investigate how users' preferences can be captured in order to incorporate more ethical considerations in the design of such systems. Adopting a value sensitive design approach, we propose a method to measure how much the context can impact the differences between the declared importance of values and decisions made in a given situation. We developed a survey tool that enable to measure importance of values in either absolute or relative ways, comparing pairs of values in specific situations. We conducted a preliminary study to test our survey tool with fifteen participants in the context of Smart Grids. Our results show differences in the way participants estimate values and underline the interest of capturing users preferences in context.
Les décisions complexes prises par les systèmes algorithmiques devraient intégrer les intérêts et les valeurs des différentes parties prenantes impliquées dans la création de ces systèmes. Dans cet article, nous étudions comment les préférences des utilisateurs peuvent être mesurées afin d'intégrer des considérations plus éthiques dans la conception de ces systèmes. En adoptant une approche de conception sensible aux valeurs, nous proposons une méthode pour mesurer l'impact du contexte sur les différences entre les préférences déclarées et les décisions prises par les utilisateurs dans une situation donnée. Nous avons développé un outil d'enquête qui permet de mesurer l'importance des valeurs de manière absolue ou relative, en comparant des paires de valeurs dans des situations spécifiques. Nous avons mené une étude préliminaire pour tester notre outil d'enquête auprès de 15 participants dans le contexte des Smart Grids. Nos résultats montrent des différences dans la façon dont les participants estiment les valeurs et soulignent l'intérêt de capturer les préférences des utilisateurs en contexte.
Origine | Fichiers produits par l'(les) auteur(s) |
---|