The Ghost in the Machine has an American accent: value conflict in GPT-3 - Archive ouverte HAL
Pré-Publication, Document De Travail Année : 2022

The Ghost in the Machine has an American accent: value conflict in GPT-3

Résumé

The alignment problem in the context of large language models must consider the plurality of human values in our world. Whilst there are many resonant and overlapping values amongst the world's cultures, there are also many conflicting, yet equally valid, values. It is important to observe which cultural values a model exhibits, particularly when there is a value conflict between input prompts and generated outputs. We discuss how the co-creation of language and cultural value impacts large language models (LLMs). We explore the constitution of the training data for GPT-3 and compare that to the world's language and internet access demographics, as well as to reported statistical profiles of dominant values in some Nation-states. We stress tested GPT-3 with a range of value-rich texts representing several languages and nations; including some with values orthogonal to dominant US public opinion as reported by the World Values Survey. We observed when values embedded in the input text were mutated in the generated outputs and noted when these conflicting values were more aligned with reported dominant US values. Our discussion of these results uses a moral value pluralism (MVP) lens to better understand these value mutations. Finally, we provide recommendations for how our work may contribute to other current work in the field.
Le problème de l'alignement dans le contexte des grands modèles de langage doit tenir compte de la pluralité des valeurs humaines dans notre monde. S'il existe de nombreuses valeurs qui résonnent et se chevauchent parmi les cultures du monde, il existe également de nombreuses valeurs contradictoires, mais tout aussi valables. Il est important d'observer les valeurs culturelles d'un modèle, en particulier lorsqu'il existe un conflit de valeurs entre les messages d'entrée et les résultats générés. Nous discutons de l'impact de la co-création de valeurs linguistiques et culturelles sur les modèles de langue de grande taille (LLM). Nous explorons la constitution des données d'entraînement pour GPT-3 et les comparons aux données démographiques mondiales sur les langues et l'accès à Internet, ainsi qu'aux profils statistiques des valeurs dominantes dans certains États-nations. Nous avons testé GPT-3 avec une gamme de textes riches en valeurs représentant plusieurs langues et nations, dont certains avec des valeurs orthogonales à l'opinion publique américaine dominante telle que rapportée par le World Values Survey. Nous avons observé quand les valeurs intégrées dans le texte d'entrée étaient mutées dans les sorties générées et avons noté quand ces valeurs conflictuelles étaient plus alignées avec les valeurs américaines dominantes rapportées. Notre discussion de ces résultats utilise une lentille de pluralisme des valeurs morales (MVP) pour mieux comprendre ces mutations de valeurs. Enfin, nous formulons des recommandations sur la manière dont notre travail peut contribuer à d'autres travaux en cours dans ce domaine.

Dates et versions

hal-03610517 , version 1 (16-03-2022)

Identifiants

Citer

Rebecca L Johnson, Giada Pistilli, Natalia Menédez-González, Leslye Denisse Dias Duran, Enrico Panai, et al.. The Ghost in the Machine has an American accent: value conflict in GPT-3. 2022. ⟨hal-03610517⟩
113 Consultations
0 Téléchargements

Altmetric

Partager

More