Cette thèse s’inscrit dans le contexte général de l’estimation et de l’optimisation de fonctions de type boîte noire dont la sortie est une variable aléatoire. Motivé par la nécessité de quantifier l’occurrence d’événements extrêmes dans des disciplines comme la médecine, l’agriculture ou la finance, dans cette thèse des indicateurs sur certaines propriétés de la distribution en sortie, comme la variance ou la taille des queues de distribution, sont étudiés. De nombreux indicateurs, aussi connus sous le nom de mesure de risque, ont été proposés dans la littérature ces dernières années. Dans cette thèse nous concentrons notre intérêt sur les quantiles, CVaR et expectiles. Dans un premier temps, nous comparons les approches K-plus proches voisins, forêts aléatoires, régression dans les RKHS, régression par réseaux de neurones et régression par processus gaussiens pour l’estimation d’un quantile conditionnel d’une fonction boite noire. Puis, nous proposons l’utilisation d’un modèle de régression basé sur le couplage de deux processus gaussiens estimés par une méthode variationnelle. Nous montrons que ce modèle, initialement développé pour la régression quantile, est facilement adaptable à la régression d’autres mesures de risque. Nous l’illustrons avec l’expectile. Dans un second temps, nous analysons le problème relatif à l’optimisation d’une mesure de risque. Nous proposons une approche générique inspirée de la littérature X -armed bandits, permettant de fournir un algorithme d’optimisation, ainsi qu’une borne supérieure sur le regret, adaptable au choix de la mesure de risque. L’applicabilité de cette approche est illustrée par l’optimisation d’un quantile ou d’une CVaR. Enfin, nous proposons des algorithmes d’optimisation utilisant des processus gaussiens associés aux stratégies UCB et Thompson sampling, notre objectif étant l’optimisation d’un quantile ou d’un expectile.