Deathbots : Peut-on continuer d’exister après sa mort à travers un système d’IA ? - Archive ouverte HAL
Communication Dans Un Congrès Année : 2023

Deathbots : Peut-on continuer d’exister après sa mort à travers un système d’IA ?

Résumé

I explore the development of deathbots, a specific kind of conversational agent whose function is to simulate a deceased person. The AI system is train on data from this deceased person and extrapolates patterns that will allow it to imitate their behavior [and their written responses] and to answer questions that living people ask it. Ethical considerations have so far focused either a) on the level of person simulated by the deathbot and question the notion of dignity; or b) on the level of people communicating with deathboths and question the notion of vulnerability of the user. I also discuss the thesis according to which human cognition is distributed and constitutes a complex hybrid system that is both organic and social and technological. I will argue that such a conception of human cognition has strong ethical implications and leads us to re-evaluate certain practices differently and to approach the case of deathbots differently. Does the hypothesis of distributed cognition allow us to argue in favor of deathbots?
J’explorerai dans ce séminaire le développement des deathbots, un type particulier d’agent conversationnel dont la fonction est de simuler, pour une personne décédée, une forme de présence. Le système d’IA récupère les données de cette personne décédée et extrapole des schémas qui vont lui permettre d’imiter son comportement [et ses réponses écrites] et de répondre à des questions que les vivants lui posent. Les considérations éthiques portent jusque-là soit au niveau de la personne simulée par le deathbot et interroge la notion de dignité ; soit au niveau des personnes ayant recours à ce type d’application et interroge la notion de vulnérabilité. Je présenterai ensuite la thèse selon laquelle la cognition humaine est distribuée et constitue un système complexe hybride tant organique que social et technologique. Je défendrai qu’une telle conception de la cognition humaine a des implications éthiques fortes et nous conduit à réévaluer différemment certaines pratiques et à aborder différemment le cas des deathbots. L’hypothèse de la cognition distribuée permet-elle d’argumenter en faveur des deathbots ?
Fichier non déposé

Dates et versions

hal-04749810 , version 1 (23-10-2024)

Identifiants

  • HAL Id : hal-04749810 , version 1

Citer

Nicolas Crozatier. Deathbots : Peut-on continuer d’exister après sa mort à travers un système d’IA ?. séminaire Éthique et IA, Thierry Ménissier; Chaire éthique et IA - MIAI, May 2023, Grenoble, France. ⟨hal-04749810⟩

Collections

UGA IPHIG
51 Consultations
0 Téléchargements

Partager

More