Feature selection in learning-to-rank. An evaluation of weighted-SVM
Sélection de variables en apprentissage d'ordonnancement : évaluation des SVM pondérés
Résumé
To select the most useful and the least redundant features to be used in ranking function to reduce computational costs is an issue in learning to rank (LTR). Regularized SVM are promising approaches in this context. In this paper, we propose new feature selection algorithms for LTR based on weighted SVM. We investigate an ℓ2-AROM algorithm to solve the ℓ0 norm problem and a weighted ℓ2 algorithm to solve ℓ0 et ℓ1 norm problems. Experiments on benchmarks and commercial datasets show that our algorithms are up to 10 times faster and use up to 7 times less features than state-of-the-art methods, with similar ranking performance.
Sélectionner les caractéristiques les plus utiles et les moins redondantes au sein des fonctions d'ordonnancement et réduire les temps d'exécution est un enjeu des algorithmes d'apprentissage d'ordonnancement. Les algorithmes de sélection de variables basés sur les SVM régularisés sont des approches prometteuses. Dans cet article, nous proposons de nouvelles méthodes de sélection de variables en apprentissage d'ordonnancement basées sur des approches de pondération des SVM en norme l2. Nous proposons une adaptation d'une méthode l2-AROM qui résout des SVM en norme l0 et un algorithme de pondération de la norme l2 qui ésout les problèmes en norme l0 et l1. Nos évaluations sur des jeux de données industriels et de référence montrent que les méthodes proposées sont jusqu'à 7 fois plus rapides et 10 fois plus parcimonieuses que l'état de l'art, pour des qualités d'ordonnancement équivalentes.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|