The Smoothed Duality Gap as a Stopping Criterion - Archive ouverte HAL Accéder directement au contenu
Pré-Publication, Document De Travail (Preprint/Prepublication) Année : 2024

The Smoothed Duality Gap as a Stopping Criterion

L'écart de dualité lissé comme critère d'arrêt

Résumé

We optimize the running time of the primal-dual algorithms by optimizing their stopping criteria for solving convex optimization problems under affine equality constraints, which means terminating the algorithm earlier with fewer iterations. We study the relations between four stopping criteria and show under which conditions they are accurate to detect optimal solutions. The uncomputable one: "Optimality gap and Feasibility error", and the computable ones: the "Karush-Kuhn-Tucker error", the "Projected Duality Gap", and the "Smoothed Duality Gap". Assuming metric sub-regularity or quadratic error bound, we establish that all of the computable criteria provide practical upper bounds for the optimality gap, and approximate it effectively. Furthermore, we establish comparability between some of the computable criteria under certain conditions. Numerical experiments on basis pursuit, and quadratic programs with(out) non-negative weights corroborate these findings and show the superior stability of the smoothed duality gap over the rest.
Nous optimisons le temps d'exécution des algorithmes primal-duaux en optimisant leurs critères d'arrêt pour résoudre des problèmes d'optimisation convexe sous contraintes d'égalité affine, ce qui signifie terminer l'algorithme plus tôt avec moins d'itérations. Nous étudions les relations entre quatre critères d'arrêt et montrons dans quelles conditions ils sont précis pour détecter des solutions optimales. Celui qui est non calculable : "Écart optimal et erreur de faisabilité", et ceux qui sont calculables : l'"Erreur de Karush-Kuhn-Tucker", l'"Écart de dualité projeté" et l'"Écart de dualité lissé". En supposant une sous-régularité métrique ou une borne d'erreur quadratique, nous établissons que tous les critères calculables fournissent des bornes supérieures pratiques pour l'écart optimal, et l'approximent efficacement. De plus, nous établissons la comparabilité entre certains des critères calculables sous certaines conditions. Des expériences numériques sur la poursuite de base, et des programmes quadratiques avec (ou sans) poids non négatifs corroborent ces résultats et montrent la stabilité supérieure de l'écart de dualité lissé par rapport aux autres.
Fichier principal
Vignette du fichier
SDG paper.pdf (1002.81 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04501394 , version 1 (18-03-2024)

Identifiants

  • HAL Id : hal-04501394 , version 1

Citer

Iyad Walwil, Olivier Fercoq. The Smoothed Duality Gap as a Stopping Criterion. 2024. ⟨hal-04501394⟩
63 Consultations
18 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More