The GEM Benchmark: Natural Language Generation, its Evaluation and Metrics - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2021

The GEM Benchmark: Natural Language Generation, its Evaluation and Metrics

Sebastian Gehrmann
  • Fonction : Auteur
Pawan Sasanka Ammanamanchi
  • Fonction : Auteur
Anuoluwapo Aremu
  • Fonction : Auteur
Antoine Bosselut
  • Fonction : Auteur
Khyathi Raghavi Chandu
  • Fonction : Auteur
Miruna-Adriana Clinciu
  • Fonction : Auteur
Dipanjan Das
  • Fonction : Auteur
Kaustubh Dhole
  • Fonction : Auteur
Wanyu Du
  • Fonction : Auteur
Esin Durmus
  • Fonction : Auteur
Ondřej Dušek
  • Fonction : Auteur
Chris Chinenye Emezue
  • Fonction : Auteur
Varun Gangal
  • Fonction : Auteur
Cristina Garbacea
  • Fonction : Auteur
Tatsunori Hashimoto
  • Fonction : Auteur
Yufang Hou
  • Fonction : Auteur
Yacine Jernite
  • Fonction : Auteur
Harsh Jhamtani
  • Fonction : Auteur
Yangfeng Ji
  • Fonction : Auteur
Shailza Jolly
  • Fonction : Auteur
Mihir Kale
  • Fonction : Auteur
Dhruv Kumar
  • Fonction : Auteur
Faisal Ladhak
  • Fonction : Auteur
Aman Madaan
  • Fonction : Auteur
Mounica Maddela
  • Fonction : Auteur
Khyati Mahajan
  • Fonction : Auteur
Saad Mahamood
  • Fonction : Auteur
Bodhisattwa Prasad Majumder
  • Fonction : Auteur
Pedro Henrique Martins
  • Fonction : Auteur
Angelina Mcmillan-Major
  • Fonction : Auteur
Simon Mille
  • Fonction : Auteur
Emiel van Miltenburg
  • Fonction : Auteur
Moin Nadeem
  • Fonction : Auteur
Shashi Narayan
  • Fonction : Auteur
  • PersonId : 767539
  • IdRef : 182508757
Vitaly Nikolaev
  • Fonction : Auteur
Andre Niyongabo Rubungo
  • Fonction : Auteur
Salomey Osei
  • Fonction : Auteur
Ankur Parikh
  • Fonction : Auteur
Laura Perez-Beltrachini
  • Fonction : Auteur
Niranjan Ramesh Rao
  • Fonction : Auteur
Vikas Raunak
  • Fonction : Auteur
Juan Diego Rodriguez
  • Fonction : Auteur
Sashank Santhanam
  • Fonction : Auteur
João Sedoc
  • Fonction : Auteur
Thibault Sellam
  • Fonction : Auteur
Samira Shaikh
  • Fonction : Auteur
Hendrik Strobelt
  • Fonction : Auteur
Nishant Subramani
  • Fonction : Auteur
Wei Xu
Diyi Yang
  • Fonction : Auteur
Akhila Yerukola
  • Fonction : Auteur
Jiawei Zhou
  • Fonction : Auteur

Résumé

We introduce GEM, a living benchmark for natural language Generation (NLG), its Evaluation, and Metrics. Measuring progress in NLG relies on a constantly evolving ecosystem of automated metrics, datasets, and human evaluation standards. Due to this moving target, new models often still evaluate on divergent anglo-centric corpora with well-established, but flawed, metrics. This disconnect makes it challenging to identify the limitations of current models and opportunities for progress. Addressing this limitation, GEM provides an environment in which models can easily be applied to a wide set of tasks and in which evaluation strategies can be tested. Regular updates to the benchmark will help NLG research become more multilingual and evolve the challenge alongside models. This paper serves as the description of the data for which we are organizing a shared task at our ACL 2021 Workshop and to which we invite the entire NLG community to participate.

Dates et versions

hal-03466171 , version 1 (04-12-2021)

Identifiants

Citer

Sebastian Gehrmann, Tosin Adewumi, Karmanya Aggarwal, Pawan Sasanka Ammanamanchi, Anuoluwapo Aremu, et al.. The GEM Benchmark: Natural Language Generation, its Evaluation and Metrics. Proceedings of the 1st Workshop on Natural Language Generation, Evaluation, and Metrics (GEM 2021), Aug 2021, Online, France. pp.96-120, ⟨10.18653/v1/2021.gem-1.10⟩. ⟨hal-03466171⟩
50 Consultations
0 Téléchargements

Altmetric

Partager

Gmail Mastodon Facebook X LinkedIn More