Une Analyse du Modèle ColBERT - Archive ouverte HAL
Communication Dans Un Congrès Année : 2021

Une Analyse du Modèle ColBERT

Résumé

Les modèles de RI basés sur les Transformers sont aujourd’hui état de l’art en Recherche d’Information ad-hoc, mais leur comportement reste encore incompris. Des travaux récents ont montré que BERT ne satisfait pas les axiomes classiques de la RI. Nous proposons d’étudier le processus d’appariement par l’analyse de l’importance des termes et des mécanismes d’appariement exact et sémantique. Même si les axiomes classiques ne sont pas formellement vérifiés, notre analyse révèle que des modèles comme ColBERT: (i) sont capables d’inclure une notion d’importance du terme ; (ii) s’appuient sur des correspondances exactes pour les termes importants.
Fichier principal
Vignette du fichier
main.pdf (303.09 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03364403 , version 1 (04-10-2021)

Identifiants

  • HAL Id : hal-03364403 , version 1

Citer

Thibault Formal, Benjamin Piwowarski, Stéphane Clinchant. Une Analyse du Modèle ColBERT. Conférence en Recherche d’Information et Applications, Apr 2021, Grenoble (virtuelle), France. ⟨hal-03364403⟩
163 Consultations
38 Téléchargements

Partager

More