Application of the multilingual acoustic representation model XLSR-53 for the transcription of Ewondo
Application du modèle de représentation acoustique multilingue XLSR-53 pour la transcription de l'Ewondo
Résumé
Recently popularized self-supervised models appear as a solution to the problem of low data availability via parsimonious learning transfer. We investigate the effectiveness of these multilingual acoustic models, in this case wav2vec 2.0 XLSR-53, for the transcription task of the Ewondo language (spoken in Cameroon). The experiments were conducted on 24 minutes of speech constructed from 103 read sentences. Despite a strong generalization capacity of multilingual acoustic model, preliminary results show that the distance between XLSR-53 embedded languages (English, French, Spanish, German, Mandarin,. . .) and Ewondo strongly impacts the performance of the transcription model. The highest performances obtained are around 70.8% on the WER and 28% on the CER. An analysis of these preliminary results is carried out and then interpreted; in order to ultimately propose effective ways of improvement.
Les modèles auto-supervisés récemment popularisés apparaissent comme une solution au problème de la faible disponibilité des données via un transfert d'apprentissage parcimonieux. Nous étudions l'efficacité des modèles acoustiques multilingues, particulierement wav2vec 2.0 XLSR-53, pour la tâche de transcription de la langue Ewondo (parlée au Cameroun). Les expériences ont été menées sur 24 minutes d'enregistrements construits à partir de 103 phrases lues. Malgré une forte capacité de généralisation du modèle acoustique multilingue, les résultats préliminaires montrent que la distance entre les langues intégrées au XLSR-53 (anglais, français, espagnol, allemand, mandarin, . . .) et l'ewondo a un impact important sur la performance du modèle de transcription. Les performances les plus élevées obtenues sont de l'ordre de 70,8% sur le WER et de 28% sur le CER. Une analyse de ces résultats préliminaires est effectuée et interprétée afin de proposer des pistes d'amélioration efficaces.
Domaines
Informatique [cs]| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
