Streaming constrained binary logistic regression with online standardized data - Archive ouverte HAL Accéder directement au contenu
Communication Dans Un Congrès Année : 2019

Streaming constrained binary logistic regression with online standardized data

Régression logistique sous contrainte avec standardisation en ligne pour flux de données

Résumé

We study a stochastic gradient algorithm for performing online a constrained binary logistic regression in the case of streaming or massive data. Assuming that observed data are realizations of a random vector, these data are standardized online in particular to avoid a numerical explosion or when a shrinkage method such as LASSO is used. We prove the almost sure convergence of a variable step-size constrained stochastic gradient process with averaging when a varying number of new data is introduced at each step. Several stochastic approximation processes with raw data or online standardized data are compared on observed or simulated datasets. The best results are obtained by processes with online standardized data.
Nous étudions un algorithme de gradient stochastique pour réaliser une régression logistique sous contraintes dans le cas de données massives ou en ligne. En supposant que les données observées sont les réalisations d’un vecteur aléatoire, ces données sont standardisées en ligne pour éviter une explosion numérique ou lorsqu’une méthode de pénalisation telle que LASSO est utilisée. Nous démontrons la convergence presque sûre d’un processus de gradient stochastique moyenné à pas variable lorsqu’un nombre variable de nouvelles données sont introduites à chaque étape. Vingt-quatre processus d’approximation stochastique avec des données brutes ou standardisées en ligne sont comparés sur des données réelles ou simulées. Les meilleurs résultats sont obtenus pour des processus avec données standardisées.
Fichier principal
Vignette du fichier
Communication_SFC_20190716.pdf (398.47 Ko) Télécharger le fichier
Présentation_SFC_20190829.pdf (873.19 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-02278090 , version 1 (04-09-2019)

Identifiants

  • HAL Id : hal-02278090 , version 1

Citer

Benoît Lalloué, Jean-Marie Monnez, Eliane Albuisson. Streaming constrained binary logistic regression with online standardized data. SFC 2019 - XXVIe Rencontres de la Société Francophone de Classification, Sep 2019, Nancy, France. ⟨hal-02278090⟩
83 Consultations
133 Téléchargements

Partager

Gmail Facebook X LinkedIn More