Expensive multi-objective optimization assisted by surrogate models
Optimisation coûteuse multi-objectifs assistée par des modèles de substitution
Résumé
The work presented in this manuscript focuses on multi-objective blackbox optimization. In particular, we are interested in expensive problems, requiring for instance complex simulation to evaluate the quality of solutions, for which the time or material cost is particularly important. Therefore, we consider algorithms assisted by surrogate models. These models are statistical machine learning models that estimate the quality of a new solution based on past evaluations from other solutions. In the context of expensive optimization, they can then be used as a surrogate for the objective functions to limit the cost of an execution. The contributions of this thesis are manifold. First, we study existing surrogate-assisted multi-objective evolutionary algorithms, with the aim of providing a framework through a taxonomy that allows us to highlight their modular components more efficiently. Second, we conduct an experimental study on the different algorithms from the literature, as well as the impact of the different strategies that compose them. This study allows us to draw first conclusions on some key points of their design, such as the efficiency of the clustering of the training data or the differences in performance of the solution generation strategies, such as filtering and efficient global optimization, depending on the number of calls to the evaluation function. In a third step, and based on these results which show that the performance of the different algorithmic components depends on the budget, we propose to focus on the design of new approaches, namely adaptive algorithms. These algorithms restructure themself, during their execution, to respond more efficiently to the target problem. This allows us to propose a more generic configuration, which responds effectively to the different considered scenarios. These scenarios are defined in terms of budget, in our case the number of calls to the evaluation function, which represents a major part of the computation time. The two scenarios considered in this manuscript depend on the relationship between the cost of the evaluation and the cost of the other steps. They allow us to consider a scenario where the budget is very tight and thus the evaluation particularly expensive, and a scenario where the budget is moderately tight and thus the evaluation somewhat less expensive. Finally, to overcome the problems caused by the expensive context, we are interested in the parallelization of the target algorithms in order to limit the temporal cost of the executions. For this purpose, we study different existing parallelization approaches of decomposition-based and surrogate-assisted algorithms, which allows us to study their viability in the context of the thesis. In particular, we show that the resolution strategy allows to sample different search areas and to obtain solutions with different tradeoffs between the objectives. Moreover, we were able to show that the considered algorithms benefit from an efficient scaling for a moderate number of computing units.
Les travaux présentés dans ce manuscrit portent sur l’optimisation multiobjectifs boite noire. En particulier, nous nous intéressons aux problèmes coûteux, par exemple nécessitant une simulation complexe pour évaluer la qualité des solutions, pour lesquelles le coût temporel ou matériel s’avère particulièrement important. En conséquent, nous considérons des algorithmes assistés par des modèles de substitution. Ces modèles sont des modèles statistiques d’apprentissage automatique qui permettent d’estimer la qualité d’une nouvelle solution en se basant sur des évaluations passées d’autres solutions. Dans le cadre de l’optimisation coûteuse, ils permettent alors de se substituer aux fonctions objectifs pour limiter le coût d’une exécution. Les contributions de cette thèse sont plurielles. Dans un premier temps, nous étudions les algorithmes évolutionnaires multi-objectifs assistés par des modèles de substitution existants, dans le but d’apporter un cadre par le biais d’une taxonomie qui nous permet de mettre en évidence leurs composants modulaires plus efficacement. Dans un deuxième temps, nous étudions expérimentalement les différents algorithmes de la littérature, ainsi que l’impact des différentes stratégies qui les composent. Cette étude nous permet de tirer de premières conclusions sur certains points clés de leur conception, tels que l’efficacité du partitionnement des données d’apprentissage ou les différences de performance des stratégies de génération des solutions, comme le filtrage et l’optimisation globale efficace, en fonction du nombre d’appels à la fonction d’évaluation. Dans un troisième temps, et en nous basant sur ces résultats qui montrent que la performance des différents composants algorithmiques dépend du budget, nous proposons de nous intéresser à la conception de nouvelles approches, les algorithmes adaptatifs. Ces algorithmes se restructurent, au cours de leur exécution, pour répondre plus efficacement aux problématiques rencontrées. Ceci nous permet de proposer une configuration plus générique, qui répond efficacement aux différents scénarios considérés. Ces scénarios sont définis en terme de budget, ici le nombre d’appels à la fonction d’évaluation, qui représente une part prépondérante du temps de calcul. Les deux scénarios considérés dans ce manuscrit dépendent du rapport entre le coût de l’évaluation et le coût des autres étapes de l’algorithme. Ils nous permettent de considérer un scénario où le budget est très restreint et donc l’évaluation particulièrement coûteuse, et un scénario où le budget est modérément restreint et donc l’évaluation un peu moins coûteuse. Dans un dernier temps, pour pallier les problématiques engendrées par le contexte coûteux, nous nous intéressons à la parallélisation des algorithmes cibles dans le but de limiter le coût temporel des exécutions. Pour cela, nous étudions différentes approches de parallélisation existantes d’algorithmes se basant sur la décomposition et assistés par des modèles de substitution, ce qui nous permet d’étudier leur viabilité dans le contexte de la thèse. En particulier, nous montrons que la stratégie de résolution permet d’échantillonner différentes zones de recherche et d’obtenir des solutions de compromis différents entre les objectifs. De plus, nous avons pu montrer que les algorithmes considérés bénéficient d’une mise à l’échelle efficace pour un nombre d’unités de calcul modéré.