Remove or keep up? A bottom-up assessment of online hate speech
Résumé
Multi-component methods of analyzing hate speech seem to open new horizons in training human annotators and algorithms to facilitate online hate detection and moderation. One of the limitations of these endeavors lies on the fact that the components proposed are either treated as if they were of equal significance or hierarchized within scales that are based on scholars’ understandings and assessments – informed and relevant as these might be – with no feedback from common laypeople. They constitute “top-down” understandings of the performative power of hate speech. The present contribution seeks to address this gap by analyzing how ordinary people, especially young people in our case, assess different forms of hate speech. Our aim is to identify what they estimate to be acceptable or tolerable, and the actions they would choose to undertake, if they were to monitor online posts (i. e., take them down or keep them up). We consider hate speech as an “ordinary concept” reflecting “ordinary people’s norms”. The research reveals an overall tendency to content removal, especially in the case of calls to lethal aggressions and swearwords which seem to operate as offense intensifiers. Incitements to non-lethal actions and emotional expressions may be tolerated or even accepted by some, being perceived as non-hateful”. A distinction between hate action, hate speech, and hate expression revealed to be significant. At the same time, punctuation seems to have no significant effect on the overall judgments. Finally, combinations of hate features increase the perceived hatefulness and, even more substantially, the willingness to take down the content in question.
Les méthodes d’analyse de la haine en ligne fondées sur plusieurs composantes semblent ouvrir de nouvelles perspectives pour la formation des annotateurs humains et des algorithmes afin de faciliter la détection et la modération des discours haineux en ligne. L’une des limites de ces approches réside dans le fait que les composantes proposées sont soit traitées comme ayant une importance équivalente, soit hiérarchisées au sein d’échelles reposant sur les compréhensions et les évaluations des chercheurs — aussi informées et pertinentes soient-elles — sans retour de la part des citoyens ordinaires. Elles constituent ainsi des compréhensions « descendantes » (« top-down ») du pouvoir performatif du discours haineux. La présente contribution cherche à combler cette lacune en analysant la manière dont les personnes ordinaires, et plus particulièrement les jeunes dans notre étude, évaluent différentes formes de discours haineux. Notre objectif est d’identifier ce qu’elles considèrent comme acceptable ou tolérable, ainsi que les actions qu’elles choisiraient d’entreprendre si elles devaient modérer des publications en ligne (c’est-à-dire les supprimer ou les laisser en ligne). Nous considérons le discours haineux comme un « concept ordinaire » reflétant « les normes des gens ordinaires ». La recherche met en évidence une tendance générale à la suppression des contenus, en particulier dans le cas des appels à des agressions mortelles et des insultes, qui semblent agir comme des intensificateurs d’offense. Les incitations à des actions non mortelles et les expressions émotionnelles peuvent, quant à elles, être tolérées, voire acceptées par certains, car perçues comme non haineuses. Une distinction entre action haineuse, discours haineux et expression haineuse s’est révélée significative. En revanche, la ponctuation semble n’avoir aucun effet notable sur les jugements globaux. Enfin, les combinaisons de caractéristiques haineuses augmentent la perception du caractère haineux d’un contenu et, plus encore, la volonté de supprimer ledit contenu.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |