Algorithms of Robust Stochastic Optimization Based on Mirror Descent Method
Algorithmes d'optimisation stochastique robuste par descente-en-miroir
Résumé
We propose an approach to construction of robust non-Euclidean iterative algorithms for convex composite stochastic optimization based on truncation of stochastic gradients. For such algorithms, we establish sub-Gaussian confidence bounds under weak assumptions about the tails of the noise distribution in convex and strongly convex settings. Robust estimates of the accuracy of general stochastic algorithms are also proposed.
Nous proposons une approche vers la construction d'algorithmes robustes d'optimisation stochastique convexe composite basée sur la seuillage des gradients stochastiques. Pour de tels algorithmes et sous des hypothèses faibles concernant les queues de la distribution du bruit, nous établissons des bornes de confiance sous-gaussiennes pour des fonctions-objectives convexes et fortement convexes. Nous proposons également des estimations robustes de la precision pour des algorithmes stochastiques généraux.
Origine : Fichiers produits par l'(les) auteur(s)
Loading...