Article Dans Une Revue BMJ - British Medical Journal Année : 2025

FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare

Karim Lekadir
  • Fonction : Auteur
  • PersonId : 1502639
Alejandro F Frangi
  • Fonction : Auteur
Antonio R Porras
  • Fonction : Auteur
Ben Glocker
  • Fonction : Auteur
Celia Cintas
  • Fonction : Auteur
Curtis P Langlotz
  • Fonction : Auteur
Eva Weicken
  • Fonction : Auteur
Folkert W Asselbergs
  • Fonction : Auteur
Fred Prior
  • Fonction : Auteur
Gary S Collins
  • Fonction : Auteur
Georgios Kaissis
  • Fonction : Auteur
Gianna Tsakou
  • Fonction : Auteur
Jayashree Kalpathy-Cramer
  • Fonction : Auteur
John Mongan
  • Fonction : Auteur
Julia A Schnabel
  • Fonction : Auteur
Kaisar Kushibar
  • Fonction : Auteur
Katrine Riklund
  • Fonction : Auteur
Kostas Marias
  • Fonction : Auteur
Lameck M Amugongo
  • Fonction : Auteur
Lauren A Fromont
  • Fonction : Auteur
Lena Maier-Hein
  • Fonction : Auteur
Leonor Cerdá-Alberich
  • Fonction : Auteur
Luis Martí-Bonmatí
  • Fonction : Auteur
M Jorge Cardoso
  • Fonction : Auteur
Maciej Bobowicz
  • Fonction : Auteur
Mahsa Shabani
  • Fonction : Auteur
Manolis Tsiknakis
  • Fonction : Auteur
Maria A Zuluaga
  • Fonction : Auteur
Marie-Christine Fritzsche
  • Fonction : Auteur
Marina Camacho
  • Fonction : Auteur
Marius George Linguraru
  • Fonction : Auteur
Markus Wenzel
  • Fonction : Auteur
Marleen de Bruijne
  • Fonction : Auteur
Martin G Tolsgaard
  • Fonction : Auteur
Melanie Goisauf
  • Fonction : Auteur
Mónica Cano Abadía
  • Fonction : Auteur
Nikolaos Papanikolaou
  • Fonction : Auteur
Noussair Lazrak
  • Fonction : Auteur
Oriol Pujol
  • Fonction : Auteur
Richard Osuala
  • Fonction : Auteur
Sandy Napel
  • Fonction : Auteur
Sara Colantonio
  • Fonction : Auteur
Smriti Joshi
  • Fonction : Auteur
Stefan Klein
  • Fonction : Auteur
Susanna Aussó
  • Fonction : Auteur
Wendy A Rogers
  • Fonction : Auteur
Zohaib Salahuddin
  • Fonction : Auteur
Martijn P A Starmans
  • Fonction : Auteur

Résumé

This paper describes the FUTURE-AI framework, which provides guidance for the development and deployment of trustworthy AI tools in healthcare. The FUTURE-AI Consortium was founded in 2021 and comprises 117 interdisciplinary experts from 50 countries representing all continents, including AI scientists, clinical researchers, biomedical ethicists, and social scientists. Over a two year period, the FUTURE-AI guideline was established through consensus based on six guiding principles-fairness, universality, traceability, usability, robustness, and explainability. To operationalise trustworthy AI in healthcare, a set of 30 best practices were defined, addressing technical, clinical, socioethical, and legal dimensions. The recommendations cover the entire lifecycle of healthcare AI, from design, development, and validation to regulation, deployment, and monitoring. data interactions have been increasingly used to develop computer aided models, for example, disease diagnosis, prognosis, prediction of therapy response or survival, and patient stratification. 1 Despite major advances, the deployment and adoption of AI technologies remain limited in real world clinical practice. In recent years, concerns have been raised about the technical, clinical, ethical, and societal risks associated with healthcare AI. 2 3 In particular, existing research has shown that AI tools in healthcare can be prone to errors and patient harm, biases and increased health inequalities, lack of transparency and accountability, as well as data privacy and security breaches. 4-8 To increase adoption in the real world, it is essential that AI tools are trusted and accepted by patients, clinicians, health organisations, and authorities. However, there is an absence of clear, widely accepted guidelines on how healthcare AI tools should be designed, developed, evaluated, and deployed to be trustworthy-that is, technically robust, clinically safe,

SUMMARY POINTS
Despite major advances in medical artificial intelligence (AI) research, clinical adoption of emerging AI solutions remains challenging owing to limited trust and ethical concerns

The FUTURE-AI Consortium unites 117 experts from 50 countries to define international guidelines for trustworthy healthcare AI The FUTURE-AI framework is structured around six guiding principles: fairness, universality, traceability, usability, robustness, and explainability

The guideline addresses the entire AI lifecycle, from design and development to validation and deployment, ensuring alignment with real world needs and ethical requirements

The framework includes 30 detailed recommendations for building trustworthy and deployable AI systems, emphasising multistakeholder collaboration Continuous risk assessment and mitigation are fundamental, addressing biases, data variations, and evolving challenges during the AI lifecycle FUTURE-AI is designed as a dynamic framework, which will evolve with technological advancements and stakeholder feedback

Fichier principal
Vignette du fichier
bmj-2024-081554.full.pdf (1.01 Mo) Télécharger le fichier
Origine Fichiers éditeurs autorisés sur une archive ouverte
Licence

Dates et versions

hal-04950413 , version 1 (16-02-2025)

Licence

Identifiants

Citer

Karim Lekadir, Alejandro F Frangi, Antonio R Porras, Ben Glocker, Celia Cintas, et al.. FUTURE-AI: international consensus guideline for trustworthy and deployable artificial intelligence in healthcare. BMJ - British Medical Journal, 2025, pp.e081554. ⟨10.1136/bmj-2024-081554⟩. ⟨hal-04950413⟩
167 Consultations
565 Téléchargements

Altmetric

Partager

  • More