Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle - Archive ouverte HAL
Conference Papers Year : 2022

Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle

Abstract

Cet article présente les systèmes développés par l'équipe LIA-LS2N dans le cadre de la campagne d'évaluation DEFT 2022 (Grouin & Illouz, 2022). Nous avons participé à la première tâche impliquant la correction automatique de copies d'étudiants à partir de références existantes. Nous proposons trois systèmes de classification reposant sur des caractéristiques extraites de plongements de mots contextuels issus d'un modèle BERT (CamemBERT). Nos approches reposent sur les concepts suivants : extraction de mesures de similarité entre les plongements de mots, attention croisée bidirectionnelle entre les plongements et fine-tuning (affinage) des plongements de mots. Les soumissions finales comprenaient deux systèmes fusionnés combinant l'attention croisée bidirectionnelle avec nos classificateurs basés sur BERT et celui sur les mesures de similarité. Notre meilleure soumission obtient une précision de 72,6 % en combinant le classifieur basé sur un modèle CamemBERT affiné et le mécanisme d'attention croisée bidirectionnelle. Ces résultats sont proches de ceux obtenus par le meilleur système de cette édition (75,6 %).
Fichier principal
Vignette du fichier
TALN_RECITAL_2022_DEFT_2022.pdf (271.75 Ko) Télécharger le fichier
Origin Files produced by the author(s)

Dates and versions

hal-03694362 , version 1 (13-06-2022)

Identifiers

  • HAL Id : hal-03694362 , version 1

Cite

Yanis Labrak, Philippe Turcotte, Richard Dufour, Mickael Rouvier. Correction automatique d'examens écrits par approche neuronale profonde et attention croisée bidirectionnelle. DEFT - Traitement Automatique des Langues Naturelles, Jun 2022, Avignon, France. ⟨hal-03694362⟩
104 View
93 Download

Share

More