Contributions to the Analysis and Design of Parallel Batched Bayesian Optimization Algorithms - Archive ouverte HAL
Thèse Année : 2024

Contributions to the Analysis and Design of Parallel Batched Bayesian Optimization Algorithms

Contributions à l’Analyse et à la Conception d’Algorithmes d’Optimisation Bayésienne Parallèles

Résumé

The optimization of computationally expensive black-box problems is a challenge faced in many application fields. Those problems are characterized by the lack of information about their land- scape and their computational cost. For instance, in engineering design, the objective function frequently results from complex numerical simulations and only its output is available. We in- vestigate two major ways of dealing with such problems. First, we rely on Machine Learning to build surrogate models that approximate the expensive objective function at a lower com- putational cost. Second, we use parallel computing to reduce the computational burden of the optimization process. The major research question addressed in this thesis is how surrogate modeling and parallelism can help to efficiently and effectively sample the design space. We distinguish two main approaches of using the surrogate model inside an optimization process. In Surrogate-Driven Optimization (SDO), the surrogate model actively drives the pro- cess through the definition of an Acquisition Function (AF) that evaluates the promisingness of a candidate decision. This is typically the case in Bayesian Optimization (BO), where Gaus- sian Process (GP) surrogate models are used. The Acquisition Process (AP) points out the most valuable candidates through the optimization of the AF. Alternatively, Surrogate-Assisted Opti- mization (SAO) uses the surrogate model to discard unpromising candidates and/or to partially replace the objective function. In SAO, the candidates are generated by external operators and filtered out using an Evolution Control (EC) based on the surrogate model. In this thesis, we focus on the AP of BO Algorithms (BOAs) and its challenge of providing a valuable batch of candidates to be exactly evaluate in parallel. Firstly, the scalability of BO is limited when considering only the parallel evaluation of the candidates. Indeed, the sequential parts of the algorithm tend to be also computationally expensive. Secondly, the effectiveness of the batch acquisition is lesser compared to the sequential selection. An efficient use of parallel computing necessitates an efficient AP and smartly allocating the overall time budget to the AP (including the model fitting) and the simulations. We propose a new approach introducing parallel computing into the AP by leveraging space partitioning. From this, we derive two algorithms, namely Binary Space Partitioning Efficient Global Optimization (BSP-EGO) and Local models BSP-EGO (ℓBSP-EGO). The first one uses a global model to guide the optimization while the second one sets up multiple local models inside the sub-regions. The two developed algorithms are confronted with recent state-of-the-art BOAs using very different APs (e.g., using trust regions, multiple AFs, etc.). We demonstrate the better scalability and batch effectiveness of the BSP-EGO-based algorithms compared to other BOAs. We also compare the BO approach to other Surrogate-Based Optimization (SBO) algorithms, more precisely to Surrogate-Assisted Evolutionary Algorithms (SAEAs). These latter are usu- ally more time-efficient since the acquisition of the candidates does not require an expensive surrogate model. The experimental protocol involves both benchmark functions and real-world engineering problems. It is designed to identify which approach is the most suitable depending on the operational constraints. The results indicate that BOAs are extremely sample-efficient, providing good outcomes with a few simulations. However, they are generally hampered by their expensive AP (including the model fitting). When the computational budget is higher, ei- ther because the simulator is computationally cheap, or because the time frame is large enough, SAEAs are to be preferred. We also demonstrate that both approaches can be combined into a hybrid algorithm benefiting the sample-efficiency of BO and the time-efficiency of SAO.
L’optimisation de problèmes coûteux en calculs de type boîte noire est un défi rencontré dans de nombreux domaines. Ces problèmes sont caractérisés par le manque d’information dont on dispose à propos de leur nature, et par leur coût en calculs. Par exemple, en ingénierie, la fonction objectif résulte fréquemment de simulations numériques complexes dont seul le ré- sultat final est accessible. Nous étudions deux moyens principaux permettant de traiter ces problèmes. Dans un premier temps, nous nous appuyons sur des modèles de substitution issus de l’Apprentissage Machine pour approximer la fonction objectif coûteuse en calculs par une alternative à moindre coût. Dans un second temps, nous utilisons le calcul parallèle pour ac- célérer le processus d’optimisation. La problématique majeure de cette thèse est d’identifier et de développer les méthodes d’optimisation combinant calcul parallèle et modèles de substitu- tion les plus efficaces pour échantillonner l’espace de recherche. On distingue principalement deux approches dans lesquelles l’optimisation est basée sur un modèle de substitution. L’optimisation guidée par modèle de substitution - Surrogate-Driven Optimization (SDO) - emploie le modèle pour guider l’optimisation à travers la création d’une fonction d’acquisition - Acquisition Function (AF). Cette dernière évalue la valeur d’un point candidat. L’Optimisation Bayésienne - Bayesian Optimization (BO) - en est un exemple notable dans lequel le modèle de substitution repose sur les Processus Gaussiens - Gaussian Process (GP). La fonction d’acquisition est optimisée pour déterminer le meilleur point à évaluer. Cette étape est appelée Processus d’Acquisition - Acquisition Process (AP). L’optimisation assistée par modèle de substitution - Surrogate-Assisted Optimization (SAO) - est une alternative dans laquelle le modèle est utilisé pour écarter les candidats les moins prometteurs et/ou pour rem- placer partiellement la fonction objectif. Dans ces méthodes, les candidats sont générés par des opérateurs externes puis sont filtrés par le Contrôle d’Evolution - Evolution Control (EC) - qui s’appuie sur le modèle de substitution. Dans cette thèse, nous nous intéressons particulièrement au processus d’acquisition des al- gorithmes d’optimisation bayésienne et à son défi qui consiste à sélectionner simultanément le meilleur ensemble de points à évaluer en parallèle. Premièrement, la scalabilité de l’optimisation bayésienne est limitée lorsque l’on ne considère le calcul parallèle que pour évaluer les can- didats. En effet, les parties séquentielles de l’algorithme peuvent devenir coûteuses en temps également. Deuxièmement, la qualité de l’ensemble de points obtenus simultanément est moin- dre comparée à une sélection séquentielle. Un usage efficace des ressources de calcul nécessite un processus d’acquisition efficace et de qualité, et une allocation pertinente des moyens entre l’acquisition de nouveaux candidats et leur évaluation. Nous proposons une nouvelle approche qui introduit le calcul parallèle dans le processus d’acquisition grâce à un partitionnement de l’espace de recherche. Cette approche est déclinée en deux algorithmes, nommés BSP-EGO et ℓBSP-EGO. Le premier utilise un modèle de substitution global pour guider la recherche, tandis que le second s’appuie sur plusieurs sous-modèles propres à chaque sous-domaine. Ces deux algorithmes sont confrontés à plusieurs algorithmes d’optimisation bayésienne de l’état de l’art, qui utilisent des processus d’acquisition très différents. Nous démontrons une meilleure scala- bilité et qualité des points acquis grâce aux méthodes développées, en comparaison avec l’état de l’art. Nous comparons aussi ces methodes d’optimisation bayésienne à d’autres algorithmes basés sur les modèles de substitution, et plus précisément aux Algorithmes Evolutionnaires Assistés par modèle de Substitution - Surrogate-Assisted Evolutionary Algorithm (SAEA). Ces derniers sont généralement plus efficaces en termes de temps d’exécution car l’acquisition des candidats ne nécessite pas de modèle de substitution coûteux en temps. Le protocole expérimental con- sidère à la fois des fonctions benchmark et des problèmes réels d’ingénierie. Il est établi afin d’identifier l’approche la plus adéquate, compte tenu des contraintes opérationnelles. Les ré- sultats indiquent que l’optimisation bayésienne est extrêmement efficace lorsque le budget est très serré, permettant de fournir une bonne solution en peu d’évaluations. Néanmoins lorsque le budget est plus important, soit parce que le coût en calcul du simulateur est plus faible, soit car le temps alloué est suffisamment grand, les algorithmes évolutionnaires assistés par modèle de substitution sont à privilégier. Nous démontrons également que les méthodes bayésiennes et évolutionnaires peuvent être combinées pour bénéficier des atouts de chacune des approches.
Fichier principal
Vignette du fichier
Manuscrits_these_MG.pdf (25 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-04801888 , version 1 (25-11-2024)

Identifiants

Citer

Maxime Gobert. Contributions to the Analysis and Design of Parallel Batched Bayesian Optimization Algorithms. Operations Research [math.OC]. Université de Mons (Belgique), 2024. English. ⟨NNT : ⟩. ⟨tel-04801888⟩
0 Consultations
0 Téléchargements

Altmetric

Partager

More