Distributional Sliced Embedding Discrepancy for Incomparable Distributions - Archive ouverte HAL Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2021

Distributional Sliced Embedding Discrepancy for Incomparable Distributions

Résumé

Gromov-Wasserstein (GW) distance is a key tool for manifold learning and cross-domain learning, allowing the comparison of distributions that do not live in the same metric space. Because of its high computational complexity, several approximate GW distances have been proposed based on entropy regularization or on slicing, and one-dimensional GW computation. In this paper, we propose a novel approach for comparing two incomparable distributions, that hinges on the idea of distributional slicing, embeddings, and on computing the closed-form Wasserstein distance between the sliced distributions. We provide a theoretical analysis of this new divergence, called distributional sliced embedding (DSE) discrepancy, and we show that it preserves several interesting properties of GW distance including rotation-invariance. We show that the embeddings involved in DSE can be efficiently learned. Finally, we provide a large set of experiments illustrating the behavior of DSE as a divergence in the context of generative modeling and in query framework.
Fichier principal
Vignette du fichier
DSE_discrepancy.pdf (5.57 Mo) Télécharger le fichier
DSE_discrepancy.synctex.gz (202.01 Ko) Télécharger le fichier
figure_3d2d_dsse_gen_000.pdf (54.22 Ko) Télécharger le fichier
figure_3d2d_dsse_gen_1999.pdf (133.3 Ko) Télécharger le fichier
figure_3d2d_dsse_gen_2999.pdf (128.34 Ko) Télécharger le fichier
figure_3d2d_dsse_gen_999.pdf (59.6 Ko) Télécharger le fichier
figure_3d2d_dsse_real.pdf (243.85 Ko) Télécharger le fichier
figure_3d2d_sgw_gen_000.pdf (54.17 Ko) Télécharger le fichier
figure_3d2d_sgw_gen_1999.pdf (158.42 Ko) Télécharger le fichier
figure_3d2d_sgw_gen_2999.pdf (156.49 Ko) Télécharger le fichier
figure_3d2d_sgw_gen_999.pdf (148.26 Ko) Télécharger le fichier
figure_3d2d_sgw_real.pdf (243.75 Ko) Télécharger le fichier
figure_5mode3d_dsse_gen_000.pdf (245.37 Ko) Télécharger le fichier
figure_5mode3d_dsse_gen_1999.pdf (245.1 Ko) Télécharger le fichier
figure_5mode3d_dsse_gen_2999.pdf (245.04 Ko) Télécharger le fichier
figure_5mode3d_dsse_gen_999.pdf (244.9 Ko) Télécharger le fichier
figure_5mode3d_dsse_real.pdf (121.38 Ko) Télécharger le fichier
figure_5mode3d_sgw_gen_000.pdf (245.03 Ko) Télécharger le fichier
figure_5mode3d_sgw_gen_1142.pdf (246.69 Ko) Télécharger le fichier
figure_5mode3d_sgw_gen_2999.pdf (227.19 Ko) Télécharger le fichier
figure_5mode3d_sgw_gen_999.pdf (247.09 Ko) Télécharger le fichier
figure_5mode3d_sgw_real.pdf (124.45 Ko) Télécharger le fichier
figure_5mode3d_sgw_reg_gen_000.pdf (245.18 Ko) Télécharger le fichier
figure_5mode3d_sgw_reg_gen_009.pdf (245.52 Ko) Télécharger le fichier
figure_5mode3d_sgw_reg_gen_019.pdf (245.06 Ko) Télécharger le fichier
figure_5mode3d_sgw_reg_gen_029.pdf (244.72 Ko) Télécharger le fichier
figure_dessin_implem.pdf (130.51 Ko) Télécharger le fichier
figure_dessin_v2.pdf (37.08 Ko) Télécharger le fichier
figure_gan_loss_3d2d_dsse.pdf (104.68 Ko) Télécharger le fichier
figure_gan_loss_3d2d_sgw.pdf (101.44 Ko) Télécharger le fichier
figure_gan_loss_5mode3d_dsse.pdf (102.25 Ko) Télécharger le fichier
figure_gan_loss_5mode3d_sgw.pdf (104.92 Ko) Télécharger le fichier
figure_shapes_cat0.png (7.12 Ko) Télécharger le fichier
figure_shapes_horse0.png (10.86 Ko) Télécharger le fichier
figure_shapes_lioness0.png (7.99 Ko) Télécharger le fichier
figure_shapes_robustness_shapes1.png (53.11 Ko) Télécharger le fichier
figure_shapes_robustness_shapes2.png (56.08 Ko) Télécharger le fichier
figure_shapes_robustness_shapes3.png (75.46 Ko) Télécharger le fichier
figure_shapes_shape_InvarianceKNN_distrib_min_sse_dataset_correspondence_vertices_1000_s_minmax_nproj_1000_nproj_d_10_nb50_iterinner1_latent5.png (13.64 Ko) Télécharger le fichier
figure_shapes_shape_expe_timing_nproj_1000_nproj_d_10_nb50_iterinner1_latent5.png (25.13 Ko) Télécharger le fichier
figure_toy_gaussian-distance.png (107.21 Ko) Télécharger le fichier
figure_toy_spiral-distance.png (101.92 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03250633 , version 1 (04-06-2021)
hal-03250633 , version 2 (19-10-2021)

Identifiants

  • HAL Id : hal-03250633 , version 1

Citer

Mokhtar Z. Alaya, Gilles Gasso, Maxime Berar, Alain Rakotomamonjy. Distributional Sliced Embedding Discrepancy for Incomparable Distributions. 2021. ⟨hal-03250633v1⟩
88 Consultations
54 Téléchargements

Partager

Gmail Facebook X LinkedIn More