Balanced Training of Energy-Based Models with Adaptive Flow Sampling - Archive ouverte HAL
Communication Dans Un Congrès Année : 2023

Balanced Training of Energy-Based Models with Adaptive Flow Sampling

Entraînement de modèles basés sur l'énergie avec des algorithmes MCMC améliorés par des Normalizing Flows

Résumé

Energy-based models (EBMs) are versatile density estimation models that directly parameterize an unnormalized log density. Although very flexible, EBMs lack a specified normalization constant of the model, making the likelihood of the model computationally intractable. Several approximate samplers and variational inference techniques have been proposed to estimate the likelihood gradients for training. These techniques have shown promising results in generating samples, but little attention has been paid to the statistical accuracy of the estimated density, such as determining the relative importance of different classes in a dataset. In this work, we propose a new maximum likelihood training algorithm for EBMs that uses a different type of generative model, normalizing flows (NF), which have recently been proposed to facilitate sampling. Our method fits an NF to an EBM during training so that an NF-assisted sampling scheme provides an accurate gradient for the EBMs at all times, ultimately leading to a fast sampler for generating new data.
Les modèles basés sur l'énergie (EBM) sont des modèles polyvalents d'estimation de la densité qui paramètrisent directement une densité logarithmique non normalisée. Bien que très flexibles, les EBM ne disposent pas d'une constante de normalisation spécifiée pour le modèle, ce qui rend la vraisemblance du modèle difficile à calculer. Plusieurs échantillonneurs approximatifs et techniques d'inférence variationnelle ont été proposés pour estimer les gradients de log-vraisemblance pour l'entraînement. Ces techniques ont donné des résultats prometteurs dans la génération d'échantillons, mais peu d'attention a été accordée à la précision statistique de la densité estimée, comme la détermination de l'importance relative des différentes classes dans un ensemble de données. Dans ce travail, nous proposons un nouvel algorithme d'apprentissage par maximum de vraisemblance pour les EBM qui utilise un type différent de modèle génératif, les Normalizing Flows (NF), qui ont été récemment proposés pour faciliter l'échantillonnage. Notre méthode adapte un NF à un EBM pendant l'entraînement, de sorte qu'un plan d'échantillonnage assisté par NF fournit un gradient précis pour les EBM à tout moment, ce qui aboutit finalement à un échantillonneur rapide pour la génération de nouvelles données.
Fichier principal
Vignette du fichier
2306.00684.pdf (2.96 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04403223 , version 1 (19-01-2024)

Identifiants

  • HAL Id : hal-04403223 , version 1

Citer

Louis Grenioux, Éric Moulines, Marylou Gabrié. Balanced Training of Energy-Based Models with Adaptive Flow Sampling. ICML 2023 Workshop on Structured Probabilistic Inference and Generative Modeling, Jul 2023, Honolulu (Hawaii), USA, United States. ⟨hal-04403223⟩
68 Consultations
36 Téléchargements

Partager

More