Subversive innovation in digital devices: machine learning, deep learning-dark patterns-design - Archive ouverte HAL Accéder directement au contenu
Chapitre D'ouvrage Année : 2023

Subversive innovation in digital devices: machine learning, deep learning-dark patterns-design

Innovation subversive en dispositifs numériques : machine learning, deep learning-dark patterns-design

Résumé

Questioning digital practices, including those involving artificial intelligence, for example with machine learning, is essential because uses that are not weighted by neuro cognitive analyzes upstream and downstream of the programming (models or patterns to be regulated by the human brain) are not not trivial. They can to have consequences for the work practices and the respect due to the people by apprehending not only the otherness of each one but also the collective necessity imposed by the economic. Henceforth we live in a digital ecosystem that changes our aesthetic-digital relationship to the world and inscribes us in a universe of reconfiguration of possibilities. Indeed, from the personalization of the experience to the production of dark patterns "which seems to “profit from” the individual, from its “malleability" (Besse, Castets-Renard, Garivier, 2017) many socio-economic-cognitive mechanisms send a strong signal: our digital modernity is changing the scene of ethical issues, powers and freedoms. Subversive suspensions (in the form of border crossings) seem essential to us to question because subversion can become force if it is not submersive and if there is acculturation between technological cultures and cultures of social innovation.
Questionner les pratiques numériques y compris celles mobilisant l’intelligence artificielle par exemple avec le machine learning est primordial, car des usages non pondérés par des analyses neuro-cognitives en amont et en aval des programmations (modèles ou patterns à réguler par le cerveau humain) ne sont pas anodins. Ils peuvent avoir des conséquences sur les pratiques de travail et sur le respect dû aux personnes en appréhendant non seulement l’altérité de chacun, mais aussi la nécessité collective imposée par l’économique. Nous vivons désormais dans un écosystème du numérique qui modifie notre rapport esthético-numérique au monde et nous inscrit dans un univers de reconfiguration des possibles. Ainsi depuis la personnalisation de l’expérience jusqu’à la production de dark patterns (« qui semble “profiter” de l’individu, de sa “malléabilité” Besse, Castets-Renard, Garivier, 2017) de nombreux mécanismes socio-économico-cognitifs envoient un signal fort : notre modernité numérique modifie l’échiquier des questions éthiques, des pouvoirs et des libertés. Des suspensions subversives (sous forme de franchissements de frontières) nous semblent essentielles à questionner, car la subversion peut devenir force si elle n’est pas submersive et s’il y a acculturation entre cultures technologiques et cultures d’innovation sociale.
Fichier non déposé

Dates et versions

hal-04068202 , version 1 (13-04-2023)

Identifiants

  • HAL Id : hal-04068202 , version 1

Citer

Catherine Pascal, Anne-Cécile Lenoël. Subversive innovation in digital devices: machine learning, deep learning-dark patterns-design. PUB. Les forces d’innovation de la subversion numérique, , pp.105-118, inPress. ⟨hal-04068202⟩
51 Consultations
0 Téléchargements

Partager

Gmail Facebook X LinkedIn More