Reflections for the design of an experimental protocol for Bias Detection in Hospital Emergency Triage using Language Models
Réflexions pour la conception d'un protocole expérimental de détection des biais dans le triage d'urgence hospitalière à l'aide de modèles de langage
Résumé
The rise of AI-based research in emergency healthcare raises challenges such as data protection compliance and the risk of accentuating inequalities by reproducing the biases present in the data used to train AI systems. However, AI also offers the possibility of correcting these biases. Our study focuses in particular on emergency triage, aimed at rapidly classifying patients according to the severity of their condition on arrival. We carried out a literature review to identify potential biases in triage, and conducted a preliminary study involving a qualitative survey and descriptive analysis of triage data. Based on this, we describe an experimental protocol designed to assess the effectiveness of AI in detecting bias within triage data.
L’essor de la recherche basée sur l’IA dans les soins de santé d’urgence soulève des défis tels que la conformité à la protection des données et le risque d’accentuer les inégalités en reproduisant les biais présents dans les données utilisées pour entraîner les systèmes d’IA. Toutefois, l’IA offre également la possibilité de corriger ces biais. Notre étude porte en particulier sur le triage d’urgence, visant à classer rapidement les patients selon la gravité de leur état à leur arrivée. Nous avons réalisé une revue de la littérature pour identifier les biais potentiels dans le triage et mené une étude préliminaire impliquant une enquête qualitative et une analyse descriptive des données de triage. A partir de ces éléments, nous décrivons un protocole expérimental destiné à évaluer l’efficacité de l’IA dans la détection des biais au sein des données de triage.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
