Graph Neural Networks with maximal independent set-based pooling: Mitigating over-smoothing and over-squashing - Archive ouverte HAL
Article Dans Une Revue Pattern Recognition Letters Année : 2025

Graph Neural Networks with maximal independent set-based pooling: Mitigating over-smoothing and over-squashing

Réseaux de neurones sur graphes avec un pooling basé sur des ensembles maximaux indépendants : Contrer le sur-lissage et le sur-écrasement de données.

Résumé

Graph Neural Networks (GNNs) have significantly advanced graph-level prediction tasks by utilizing efficient convolution and pooling techniques. However, traditional pooling methods in GNNs often fail to preserve key properties, leading to challenges such as graph disconnection, low decimation ratios, and substantial data loss. In this paper, we introduce three novel pooling methods based on Maximal Independent Sets (MIS) to address these issues. Additionally, we provide a theoretical and empirical study on the impact of these pooling methods on over-smoothing and over-squashing phenomena. Our experimental results not only confirm the effectiveness of using maximal independent sets to define pooling operations but also demonstrate their crucial role in mitigating over-smoothing and over-squashing.
Les Graph Neural Networks (GNNs) ont considérablement fait avancer les tâches de prédiction au niveau des graphes en utilisant des techniques de convolution et de pooling efficaces. Cependant, les méthodes de pooling traditionnelles dans les GNNs échouent souvent à préserver les propriétés clés, entraînant des défis tels que la déconnexion des graphes, des ratios de décimation faibles et une perte de données substantielle. Dans cet article, nous introduisons trois nouvelles méthodes de pooling basées sur les Ensembles Indépendants Maximaux (MIS) pour aborder ces problèmes. De plus, nous fournissons une étude théorique et empirique sur l'impact de ces méthodes de pooling sur les phénomènes de sur-lissage et de sur-écrasement. Nos résultats expérimentaux confirment non seulement l'efficacité de l'utilisation des ensembles indépendants maximaux pour définir les opérations de pooling, mais démontrent également leur rôle crucial dans l'atténuation du sur-lissage et du sur-écrasement.
Fichier principal
Vignette du fichier
Graph_Neural_Networks_with_Maximal_Independent_Set_Based_Pooling__Mitigating_Over_smoothing_and_Over_squashing.pdf (378.33 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-04848262 , version 1 (20-12-2024)

Licence

Copyright (Tous droits réservés)

Identifiants

Citer

Stevan Stanovic, Benoit Gaüzère, Luc Brun. Graph Neural Networks with maximal independent set-based pooling: Mitigating over-smoothing and over-squashing. Pattern Recognition Letters, 2025, 187, pp.14-20. ⟨10.1016/j.patrec.2024.11.004⟩. ⟨hal-04848262⟩
0 Consultations
0 Téléchargements

Altmetric

Partager

More