BigBIO: A Framework for Data-Centric Biomedical Natural Language Processing - Archive ouverte HAL
Communication Dans Un Congrès Année : 2022

BigBIO: A Framework for Data-Centric Biomedical Natural Language Processing

Natasha Seelam
  • Fonction : Auteur
Gabriel Altay
  • Fonction : Auteur
Ruisi Su
  • Fonction : Auteur
Wojciech Kusa
  • Fonction : Auteur
Stephen Bach
  • Fonction : Auteur
Bo Wang
  • Fonction : Auteur
Daniel León Periñán
  • Fonction : Auteur
Théo Gigant
  • Fonction : Auteur
Jenny Chim
  • Fonction : Auteur
Jose David Posada
  • Fonction : Auteur
John Michael Giorgi
  • Fonction : Auteur
Karthik Rangasai Sivaraman
  • Fonction : Auteur
Marc Pàmies
  • Fonction : Auteur
Marianna Nezhurina
  • Fonction : Auteur
Michael Cullan
  • Fonction : Auteur
Moritz Freidank
  • Fonction : Auteur
Shubhanshu Mishra
  • Fonction : Auteur
Shamik Bose
  • Fonction : Auteur
Nicholas Michio Broad
  • Fonction : Auteur
Yanis Labrak
Shlok S Deshmukh
  • Fonction : Auteur
Sid Kiblawi
  • Fonction : Auteur
Ayush Singh
  • Fonction : Auteur
Minh Chien Vu
  • Fonction : Auteur
Trishala Neeraj
  • Fonction : Auteur
Albert Villanova del Moral
  • Fonction : Auteur
Benjamin Beilharz
  • Fonction : Auteur

Résumé

Training and evaluating language models increasingly requires the construction of meta-datasets --diverse collections of curated data with clear provenance. Natural language prompting has recently lead to improved zero-shot generalization by transforming existing, supervised datasets into a diversity of novel pretraining tasks, highlighting the benefits of meta-dataset curation. While successful in general-domain text, translating these data-centric approaches to biomedical language modeling remains challenging, as labeled biomedical datasets are significantly underrepresented in popular data hubs. To address this challenge, we introduce BigBIO a community library of 126+ biomedical NLP datasets, currently covering 12 task categories and 10+ languages. BigBIO facilitates reproducible meta-dataset curation via programmatic access to datasets and their metadata, and is compatible with current platforms for prompt engineering and end-to-end few/zero shot language model evaluation. We discuss our process for task schema harmonization, data auditing, contribution guidelines, and outline two illustrative use cases: zero-shot evaluation of biomedical prompts and large-scale, multi-task learning. BigBIO is an ongoing community effort and is available at https://github.com/bigscience-workshop/biomedical

Dates et versions

hal-03723519 , version 1 (15-07-2022)

Identifiants

Citer

Jason Alan Fries, Leon Weber, Natasha Seelam, Gabriel Altay, Debajyoti Datta, et al.. BigBIO: A Framework for Data-Centric Biomedical Natural Language Processing. Neural Information Processing Systems (NeurIPS), Nov 2022, New Orleans, United States. ⟨10.48550/arXiv.2206.15076⟩. ⟨hal-03723519⟩

Collections

UNIV-AVIGNON LIA
67 Consultations
0 Téléchargements

Altmetric

Partager

More