Communication Dans Un Congrès Année : 2023

Recherche cross-modale pour répondre à des questions visuelles

Résumé

Répondre à des questions visuelles à propos d'entités nommées (KVQAE) est une tâche difficile qui demande de rechercher des informations dans une base de connaissances multimodale. Nous étudions ici comment traiter cette tâche avec une recherche cross-modale et sa combinaison avec une recherche mono-modale, en se focalisant sur le modèle CLIP, un modèle multimodal entraîné sur des images appareillées à leur légende textuelle. Nos résultats démontrent la supériorité de la recherche cross-modale, mais aussi la complémentarité des deux, qui peuvent être combinées facilement. Nous étudions également différentes manières d'ajuster CLIP et trouvons que l'optimisation cross-modale est la meilleure solution, étant en adéquation avec son pré-entraînement. Notre méthode surpasse les approches précédentes, tout en étant plus simple et moins coûteuse. Ces gains de performance sont étudiés intrinsèquement selon la pertinence des résultats de la recherche et extrinsèquement selon l'exactitude de la réponse extraite par un module externe. Nous discutons des différences entre ces métriques et de ses implications pour l'évaluation de la KVQAE.

Fichier principal
Vignette du fichier
461741.pdf (2.93 Mo) Télécharger le fichier
Origine Fichiers éditeurs autorisés sur une archive ouverte
Licence

Dates et versions

hal-04131549 , version 1 (20-06-2023)

Licence

Identifiants

  • HAL Id : hal-04131549 , version 1

Citer

Paul Lerner, Ferret Olivier, Camille Guinaudeau. Recherche cross-modale pour répondre à des questions visuelles. CORIA-TALN 2023 18e Conférence en Recherche d'Information et Applications (CORIA), Jun 2023, Paris, France. pp.74-92. ⟨hal-04131549⟩
216 Consultations
256 Téléchargements

Partager

  • More