HEAR: Holistic Evaluation of Audio Representations - Archive ouverte HAL Accéder directement au contenu
Article Dans Une Revue Proceedings of Machine Learning Research Année : 2022

HEAR: Holistic Evaluation of Audio Representations

Joseph Turian
  • Fonction : Auteur
Jordie Shier
  • Fonction : Auteur
Humair Raj Khan
  • Fonction : Auteur
Bhiksha Raj
  • Fonction : Auteur
Björn W. Schuller
  • Fonction : Auteur
Christian J. Steinmetz
  • Fonction : Auteur
Colin Malloy
  • Fonction : Auteur
George Tzanetakis
  • Fonction : Auteur
Gissel Velarde
  • Fonction : Auteur
Kirk Mcnally
  • Fonction : Auteur
Max Henry
  • Fonction : Auteur
Nicolas Pinto
  • Fonction : Auteur
Camille Noufi
  • Fonction : Auteur
Christian Clough
  • Fonction : Auteur
Dorien Herremans
  • Fonction : Auteur
Eduardo Fonseca
  • Fonction : Auteur
Jesse Engel
  • Fonction : Auteur
Justin Salamon
  • Fonction : Auteur
Pranay Manocha
  • Fonction : Auteur
Shinji Watanabe
  • Fonction : Auteur
Zeyu Jin
  • Fonction : Auteur
Yonatan Bisk
  • Fonction : Auteur

Résumé

What audio embedding approach generalizes best to a wide range of downstream tasks across a variety of everyday domains without fine-tuning? The aim of the HEAR benchmark is to develop a general-purpose audio representation that provides a strong basis for learning in a wide variety of tasks and scenarios. HEAR evaluates audio representations using a benchmark suite across a variety of domains, including speech, environmental sound, and music. HEAR was launched as a NeurIPS 2021 shared challenge. In the spirit of shared exchange, each participant submitted an audio embedding model following a common API that is general-purpose, open-source, and freely available to use. Twenty-nine models by thirteen external teams were evaluated on nineteen diverse downstream tasks derived from sixteen datasets. Open evaluation code, submitted models and datasets are key contributions, enabling comprehensive and reproducible evaluation, as well as previously impossible longitudinal studies. It still remains an open question whether one single general-purpose audio representation can perform as holistically as the human ear.

Dates et versions

hal-04022489 , version 1 (10-03-2023)

Identifiants

Citer

Joseph Turian, Jordie Shier, Humair Raj Khan, Bhiksha Raj, Björn W. Schuller, et al.. HEAR: Holistic Evaluation of Audio Representations. Proceedings of Machine Learning Research, 2022, 176, pp.125-145. ⟨hal-04022489⟩
22 Consultations
0 Téléchargements

Altmetric

Partager

Gmail Facebook X LinkedIn More