Advancing Similarity Search with GenAI: A Retrieval Augmented Generation Approach - Archive ouverte HAL
Autre Publication Scientifique Année : 2024

Advancing Similarity Search with GenAI: A Retrieval Augmented Generation Approach

Faire progresser la recherche par similarité avec l'IA Générative : Une approche de génération augmentée par la recherche.

Jean Bertin
  • Fonction : Auteur
  • PersonId : 1452611

Résumé

This article introduces an innovative Retrieval Augmented Generation approach to similarity search. The proposed method uses a generative model to capture nuanced semantic information and retrieve similarity scores based on advanced context understanding. The study focuses on the BIOSSES dataset containing 100 pairs of sentences extracted from the biomedical domain, and introduces similarity search correlation results that outperform those previously attained on this dataset. Through an in-depth analysis of the model sensitivity, the research identifies optimal conditions leading to the highest similarity search accuracy: the results reveals high Pearson correlation scores, reaching specifically 0.905 at a temperature of 0.5 and a sample size of 20 examples provided in the prompt. The findings underscore the potential of generative models for semantic information retrieval and emphasize a promising research direction to similarity search.
Cet article présente une approche novatrice de génération augmentée par la recherche (Retrieval Augmented Generation) appliquée à la recherche par similarité. La méthode proposée exploite un modèle génératif pour saisir des informations sémantiques subtiles et obtenir des scores de similarité en se basant sur une compréhension avancée du contexte. L'étude se concentre sur le jeu de données BIOSSES, qui contient 100 paires de phrases issues du domaine biomédical, et introduit des résultats de corrélation dans la recherche par similarité surpassant ceux obtenus précédemment sur ce même jeu de données. Grâce à une analyse approfondie de la sensibilité du modèle, la recherche identifie les conditions optimales pour obtenir la meilleure précision dans la recherche par similarité. Les résultats révèlent des scores de corrélation de Pearson élevés, atteignant spécifiquement 0,905 avec une température de 0,5 et un échantillon de 20 exemples fournis dans l'invite. Ces conclusions mettent en évidence le potentiel des modèles génératifs pour la récupération d'informations sémantiques et soulignent une direction de recherche prometteuse pour améliorer la recherche par similarité.
Fichier principal
Vignette du fichier
IWCOMP_Sample.pdf (583.75 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04812938 , version 1 (02-12-2024)

Licence

Identifiants

  • HAL Id : hal-04812938 , version 1

Citer

Jean Bertin. Advancing Similarity Search with GenAI: A Retrieval Augmented Generation Approach. 2024. ⟨hal-04812938⟩
0 Consultations
0 Téléchargements

Partager

More