Réflexions pour la conception d'un protocole expérimental de détection des biais dans le triage d'urgence hospitalière à l'aide de modèles de langage - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2024

Reflections for the design of an experimental protocol for Bias Detection in Hospital Emergency Triage using Language Models

Réflexions pour la conception d'un protocole expérimental de détection des biais dans le triage d'urgence hospitalière à l'aide de modèles de langage

Résumé

The rise of AI-based research in emergency healthcare raises challenges such as data protection compliance and the risk of accentuating inequalities by reproducing the biases present in the data used to train AI systems. However, AI also offers the possibility of correcting these biases. Our study focuses in particular on emergency triage, aimed at rapidly classifying patients according to the severity of their condition on arrival. We carried out a literature review to identify potential biases in triage, and conducted a preliminary study involving a qualitative survey and descriptive analysis of triage data. Based on this, we describe an experimental protocol designed to assess the effectiveness of AI in detecting bias within triage data.
L’essor de la recherche basée sur l’IA dans les soins de santé d’urgence soulève des défis tels que la conformité à la protection des données et le risque d’accentuer les inégalités en reproduisant les biais présents dans les données utilisées pour entraîner les systèmes d’IA. Toutefois, l’IA offre également la possibilité de corriger ces biais. Notre étude porte en particulier sur le triage d’urgence, visant à classer rapidement les patients selon la gravité de leur état à leur arrivée. Nous avons réalisé une revue de la littérature pour identifier les biais potentiels dans le triage et mené une étude préliminaire impliquant une enquête qualitative et une analyse descriptive des données de triage. A partir de ces éléments, nous décrivons un protocole expérimental destiné à évaluer l’efficacité de l’IA dans la détection des biais au sein des données de triage.
Fichier principal
Vignette du fichier
_JEP_TALN__Détection_des_biais_humains_dans_le_triage_d_urgence_à_l_aide_des_modèles_de_langage__Copy_.pdf (225.34 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04644151 , version 1 (10-07-2024)

Identifiants

  • HAL Id : hal-04644151 , version 1

Citer

Ariel Guerra-Adames, Marta Avalos, Dalia Cohen, Dylan Russon, Melissa Davids, et al.. Réflexions pour la conception d'un protocole expérimental de détection des biais dans le triage d'urgence hospitalière à l'aide de modèles de langage. EvalLLM2024 : Atelier sur l'évaluation des modèles génératifs (LLM) et challenge d'extraction d'information few-shot, Jul 2024, Toulouse, France. ⟨hal-04644151⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More