Privacy-preserving AI using declarative constraints
IA préservant la vie privée à l’aide de contraintes déclaratives
Résumé
Machine learning and Deep learning-based technologies have gained widespread adoption, quickly displacing traditional artificially intelligent (AI) systems. Contemporary computers are remarkable in processing enormous amounts of personal data through these machine learning (ML) algorithms. However, this technological advancement brings along significant privacy implications, and this problem can only be expected to escalate in the foreseeable future.Studies have shown that it is possible to deduce sensitive information from statistical models computed on datasets, even without direct access to the underlying training dataset. Apart from the privacy-related concerns regarding statistical models, the complex systems learning and employing such models are increasingly difficult for users to understand, and so are the ramifications of consenting to the submission and use of their private information within such frameworks. Consequently, transparency and interpretability emerged as pressing concerns.In this dissertation, we study the problem of specifying privacy requirements for machine learning based systems, in a manner that combines interpretability with operational feasibility. Explaining privacy-improving technology is a challenging problem, especially when the objective is to construct a system that at the same time is interpretable and has a high utility. In order to address this challenge, we propose to specify privacy requirements as constraints, thereby allowing for both interpretability and automated optimization of the utility.
Les technologies basées sur l'apprentissage automatique et l'apprentissage profond ont été largement adoptées, supplantant rapidement les systèmes traditionnels d'intelligence artificielle (IA). Les ordinateurs modernes sont remarquables pour traiter d'énormes quantités de données personnelles grâce à ces algorithmes d'apprentissage automatique. Toutefois, cette avancée technologique a des répercussions importantes sur la vie privée, et on ne peut que s'attendre à ce que ce problème s'aggrave dans un avenir proche.Des études ont montré qu'il est possible de déduire des informations sensibles à partir de modèles statistiques calculés sur des ensembles de données, même sans accès direct à l'ensemble de données d'apprentissage sous-jacent. Outre les préoccupations liées à la protection de la vie privée concernant les modèles statistiques, les systèmes complexes qui apprennent et utilisent ces modèles sont de plus en plus difficiles à comprendre pour les utilisateurs, tout comme les ramifications du consentement à la soumission et à l'utilisation de leurs informations privées dans de tels cadres. Par conséquent, la transparence et l'interprétabilité sont devenues des préoccupations majeures.Dans cette thèse, nous étudions le problème de la spécification des exigences en matière de protection de la vie privée pour les systèmes basés sur l'apprentissage automatique, d'une manière qui combine l'interprétabilité et la faisabilité opérationnelle. Expliquer une technologie améliorant la protection de la vie privée est un problème difficile, en particulier lorsque l'objectif est de construire un système qui soit à la fois interprétable et d'une grande utilité. Afin de relever ce défi, nous proposons de spécifier les exigences en matière de protection de la vie privée sous forme de contraintes, ce qui permet à la fois l'interprétabilité et l'optimisation automatisée de l'utilité.
| Origine | Version validée par le jury (STAR) |
|---|