Trade-off between predictive performance and FDR control for high-dimensional Gaussian model selection - Archive ouverte HAL Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2023

Trade-off between predictive performance and FDR control for high-dimensional Gaussian model selection

Compromis entre la performance prédictive et le contrôle du FDR pour la sélection de modèles Gaussiens en grande dimension

Résumé

In the context of the high-dimensional Gaussian linear regression for ordered variables, we study the variable selection procedure via the minimization of the penalized least-squares criterion. We focus on model selection where the penalty function depends on an unknown multiplicative constant commonly calibrated for prediction. We propose a new proper calibration of this hyperparameter to simultaneously control predictive risk and false discovery rate. We obtain non-asymptotic theoretical bounds on the False Discovery Rate with respect to the hyperparameter and we provide an algorithm to calibrate it. It is based on completely observable quantities in view of applications. Our algorithm is validated by an extensive simulation study and is compared with some existing variable selection procedures. Finally, we propose a study to generalize our approach in complete variable selection.
Dans le contexte de la régression linéaire gaussienne de grande dimension pour des variables ordonnées, nous étudions la procédure de sélection des variables via la minimisation du critère des moindres carrés pénalisés. Nous nous concentrons sur la sélection de modèles où la fonction de pénalité dépend d'une constante multiplicative inconnue usuellement calibrée pour la prédiction. Nous proposons une nouvelle calibration de cet hyperparamètre pour contrôler simultanément le risque prédictif et le taux de fausses découvertes. Nous obtenons des bornes théoriques non-asymptotiques sur le taux de fausses découvertes en fonction de l'hyperparamètre et nous fournissons un algorithme pour le calibrer. Celui-ci est basé sur des quantités complètement observables et est ainsi adapté pour des applications sur données réelles. Notre algorithme est validé par une large étude de simulation extensive et est comparé à certaines procédures de sélection de variables existantes. Enfin, nous proposons une étude visant à généraliser notre approche à la sélection de variables non ordonnées.
Fichier principal
Vignette du fichier
ArXiv_resubmission_paper.pdf (1.24 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03978309 , version 1 (08-02-2023)
hal-03978309 , version 2 (27-07-2023)

Identifiants

Citer

Perrine Lacroix, Marie-Laure Martin. Trade-off between predictive performance and FDR control for high-dimensional Gaussian model selection. 2023. ⟨hal-03978309v2⟩
179 Consultations
40 Téléchargements

Altmetric

Partager

Gmail Facebook X LinkedIn More