Dimensionnalité intrinsèque dans les espaces de représentation des termes et des documents - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2016

Intrinsic dimensionality in representation spaces of terms and documents

Dimensionnalité intrinsèque dans les espaces de représentation des termes et des documents

Résumé

Examining the properties of representation spaces for documents or words in IR (typically R n with n large) brings precious insights to help the retrieval process. Recently, several authors have studied the real dimensionality of the datasets, called intrinsic dimensionality, in specific parts of these spaces (Houle et al., 2012a). In this paper, we propose to revisit this notion through a coefficient called α in the specific case of IR and to study its use in IR tasks. More precisely, we show how to estimate α from IR similarities and to use it in representation spaces used for documents and words (Mikolov et al., 2013 ; Claveau et al., 2014). Indeed, we prove that α may be used to characterize difficult queries; moreover we show that this intrinsic dimensionality notion, applied to words, can help to choose terms to use for query expansion.
L'examen des propriétés des espaces de représentation des documents ou des mots en RI (typiquement, R n avec n très grand) fournit de précieuses indications pour aider la re-cherche. Récemment, plusieurs travaux ont montré qu'il était possible d'étudier la dimensionnalité réelle des données, appelée dimensionnalité intrinsèque, en certains points de ces espaces (Houle et al., 2012a). Dans cet article, nous proposons de revisiter cette notion de dimension intrinsèque sous la forme d'un indice noté α dans le cas particulier de la RI et d'étudier son utilisation pratique en RI. Plus précisément, nous montrons comment son estimation à partir de similarités de type RI, peut être utilisée dans les espaces de représentations des documents et les espaces de représentations de mots (Mikolov et al., 2013 ; Claveau et al., 2014). Ainsi, nous montrons d'une part que l'indice α aide à caractériser les requêtes difficiles ; d'autre part, dans une tâche d'extension de requête, nous montrons comment cette notion de dimensionnalité intrinsèque appliquée à des mots permet de choisir au mieux les termes à étendre et leurs extensions.
Fichier principal
Vignette du fichier
Claveau_CORIA16.pdf (688.47 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-01394749 , version 1 (09-11-2016)

Identifiants

  • HAL Id : hal-01394749 , version 1

Citer

Vincent Claveau. Dimensionnalité intrinsèque dans les espaces de représentation des termes et des documents. Conférence en Recherche d'Information et Applications, CORIA, Mar 2016, Toulouse, France. ⟨hal-01394749⟩
166 Consultations
151 Téléchargements

Partager

Gmail Facebook X LinkedIn More