Recherche cross-modale pour répondre à des questions visuelles - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2023

Recherche cross-modale pour répondre à des questions visuelles

Résumé

Répondre à des questions visuelles à propos d'entités nommées (KVQAE) est une tâche difficile qui demande de rechercher des informations dans une base de connaissances multimodale. Nous étudions ici comment traiter cette tâche avec une recherche cross-modale et sa combinaison avec une recherche mono-modale, en se focalisant sur le modèle CLIP, un modèle multimodal entraîné sur des images appareillées à leur légende textuelle. Nos résultats démontrent la supériorité de la recherche cross-modale, mais aussi la complémentarité des deux, qui peuvent être combinées facilement. Nous étudions également différentes manières d'ajuster CLIP et trouvons que l'optimisation cross-modale est la meilleure solution, étant en adéquation avec son pré-entraînement. Notre méthode surpasse les approches précédentes, tout en étant plus simple et moins coûteuse. Ces gains de performance sont étudiés intrinsèquement selon la pertinence des résultats de la recherche et extrinsèquement selon l'exactitude de la réponse extraite par un module externe. Nous discutons des différences entre ces métriques et de ses implications pour l'évaluation de la KVQAE.
Fichier principal
Vignette du fichier
461741.pdf (2.93 Mo) Télécharger le fichier
Origine : Fichiers éditeurs autorisés sur une archive ouverte

Dates et versions

hal-04131549 , version 1 (20-06-2023)

Identifiants

  • HAL Id : hal-04131549 , version 1

Citer

Paul Lerner, Ferret Olivier, Camille Guinaudeau. Recherche cross-modale pour répondre à des questions visuelles. 18e Conférence en Recherche d'Information et Applications -- 16e Rencontres Jeunes Chercheurs en RI -- 30e Conférence sur le Traitement Automatique des Langues Naturelles -- 25e Rencontre des Étudiants Chercheurs en Informatique pour le Traitement Automatique des Langues, 2023, Paris, France. pp.74-92. ⟨hal-04131549⟩
34 Consultations
11 Téléchargements

Partager

Gmail Facebook X LinkedIn More