MixUp brain-cortical augmentations in self-supervised learning - Archive ouverte HAL
Communication Dans Un Congrès Année : 2023

MixUp brain-cortical augmentations in self-supervised learning

Augmentations mixUp du cerveau cortical en apprentissage auto-supervisé

Corentin Ambroise
  • Fonction : Auteur correspondant
  • PersonId : 1355595

Connectez-vous pour contacter l'auteur
Vincent Frouin
  • Fonction : Auteur
Antoine Grigis
  • Fonction : Auteur

Résumé

Learning biological markers for a specific brain pathology is often impaired by the size of the dataset. With the advent of large open datasets in the general population, new learning strategies have emerged. In particular, deep representation learning consists of training a model via pretext tasks that can be used to solve downstream clinical problems of interest. More recently, self-supervised learning provides a rich framework for learning representations by contrasting transformed samples. These methods rely on carefully designed data manipulation to create semantically similar but syntactically different samples. In parallel, domain-specific architectures such as spherical convolutional neural networks can learn from cortical brain measures in order to reveal original biomarkers. Unfortunately, only a few surface-based augmentations exist, and none of them have been applied in a self-supervised learning setting. We perform experiments on two open source datasets: Big Healthy Brain and Healthy Brain Network. We propose new augmentations for the cortical brain: baseline augmentations adapted from classical ones for training convolutional neural networks, typically on natural images, and new augmentations called MixUp. The results suggest that surface-based self-supervised learning performs comparably to supervised baselines, but generalizes better to different tasks and datasets. In addition, the learned representations are improved by the proposed MixUp augmentations. The code is available on GitHub (https://github.com/ neurospin-projects/2022 cambroise surfaugment).
L'apprentissage de marqueurs biologiques pour une pathologie cérébrale spécifique est souvent entravé par la taille de l'ensemble de données. Avec l'avènement de grands jeux de données ouverts en population générale, de nouvelles stratégies d'apprentissage ont vu le jour. En particulier, l'apprentissage par représentation profonde consiste à former un modèle par le biais de tâches prétextes qui peuvent être utilisées pour résoudre des problèmes cliniques d'intérêt en aval. Plus récemment, l'apprentissage auto-supervisé fournit un cadre riche pour l'apprentissage de représentations par contraste d'échantillons transformés. Ces méthodes reposent sur une manipulation des données soigneusement conçue pour créer des échantillons sémantiquement similaires mais syntaxiquement différents. Parallèlement, des architectures spécifiques à un domaine, telles que les réseaux de neurones à convolutions sphériques, peuvent apprendre à partir de mesures du cerveau cortical afin de révéler des biomarqueurs originaux. Malheureusement, il n'existe que quelques augmentations basées sur la surface, et aucune d'entre elles n'a été appliquée dans un cadre d'apprentissage auto-supervisé. Nous réalisons des expériences sur deux ensembles de données open source : Big Healthy Brain et Healthy Brain Network. Nous proposons de nouvelles augmentations pour le cerveau cortical : des augmentations de base adaptées à partir d'augmentations classiques pour l'entraînement des réseaux neuronaux convolutionnels, typiquement sur des images naturelles, et de nouvelles augmentations appelées MixUp. Les résultats suggèrent que l'apprentissage auto-supervisé basé sur la surface est comparable aux modèles de référence supervisés, mais qu'il se généralise mieux à différentes tâches et ensembles de données. En outre, les représentations apprises sont améliorées par les augmentations MixUp proposées. Le code est disponible sur GitHub (https://github.com/ neurospin-projects/2022 cambroise surfaugment).
Fichier principal
Vignette du fichier
MICCAI2023_MLCN.pdf (1.1 Mo) Télécharger le fichier
Origine Fichiers éditeurs autorisés sur une archive ouverte
Licence

Dates et versions

hal-04471607 , version 1 (22-02-2024)

Licence

Identifiants

Citer

Corentin Ambroise, Vincent Frouin, Benoit Dufumier, Edouard Duchesnay, Antoine Grigis. MixUp brain-cortical augmentations in self-supervised learning. Medical Image Computing and Computer Assisted Intervention, Oct 2023, Vancouver, Canada. pp.102-111, ⟨10.1007/978-3-031-44858-4_10⟩. ⟨hal-04471607⟩
15 Consultations
44 Téléchargements

Altmetric

Partager

More