ETeRNAL - Lion-Bouton - Comment arpenter sans mètre : les scores de résolution de chaînes de coréférences sont-ils des métriques ?

Éthique et TRaitemeNt Automatique des Langues 2020

Titre : Comment arpenter sans mètre : les scores de résolution de chaînes de coréférences sont-ils des métriques ?

Auteurs : Adam Lion-Bouton, Loïc Grobol, Jean-Yves Antoine, Sylvie Billot and Anaïs Lefeuvre-Halftermeyer

Mots clés : coréférence, évaluation, métrique de similarité, MUC, B_CUBBED, CEAF, BLANC, LEA, CoNLL

Résumé : Cet article présente un travail qui consiste à étudier si les scores les plus utilisés pour l'évaluation de la résolution des coréférences constituent des métriques de similarité normalisées. En adoptant une démarche purement expérimentale, nous avons vérifié si les scores MUC, B_3, CEAF, BLANC, LEA et le meta-score CoNLL respectent les bonne propriétés qui définissent une telle métrique. Notre étude montre que seul le score CEAF_m est potentiellement une métrique de similarité normalisée.