Do the standard scores of evaluation of coreference resolution constitute metrics ?
Comment arpenter sans mètre : les scores de résolution de chaînes de coréférences sont-ils des métriques ?
Résumé
This paper presents an experimental research that investigates whether the most commonly used scores for evaluating the resolution of co-references constitute normalized similarity metrics. Considering systematic test suites, we verified whether the MUC, B3, CEAF, BLANC, LEA and CoNLL scorescomply with the formal properties that define such a metric. Our study shows that only the CEAFm score is potentially a normalized similarity metric.
Cet article présente un travail qui consiste à étudier si les scores les plus utilisés pour l’évaluation de la résolution des coréférences constituent des métriques de similarité normalisées. En adoptant une démarche purement expérimentale, nous avons vérifié si les scores MUC, B3 , CEAF, BLANC, LEA et le meta-score CoNLL respectent les bonnes propriétés qui définissent une telle métrique. Notre étude montre que seul le score CEAFm est potentiellement une métrique de similarité normalisée.
| Origine | Fichiers éditeurs autorisés sur une archive ouverte |
|---|
Loading...
