MixUp brain-cortical augmentations in self-supervised learning
Augmentations mixUp du cerveau cortical en apprentissage auto-supervisé
Résumé
Learning biological markers for a specific brain pathology is often impaired by the size of the dataset. With the advent of large open datasets in the general population, new learning strategies have emerged. In particular, deep representation learning consists of training a model via pretext tasks that can be used to solve downstream clinical problems of interest. More recently, self-supervised learning provides a rich framework for learning representations by contrasting transformed samples. These methods rely on carefully designed data manipulation to create semantically similar but syntactically different samples. In parallel, domain-specific architectures such as spherical convolutional neural networks can learn from cortical brain measures in order to reveal original biomarkers. Unfortunately, only a few surface-based augmentations exist, and none of them have been applied in a self-supervised learning setting. We perform experiments on two open source datasets: Big Healthy Brain and Healthy Brain Network. We propose new augmentations for the cortical brain: baseline augmentations adapted from classical ones for training convolutional neural networks, typically on natural images, and new augmentations called MixUp. The results suggest that surface-based self-supervised learning performs comparably to supervised baselines, but generalizes better to different tasks and datasets. In addition, the learned representations are improved by the proposed MixUp augmentations. The code is available on GitHub (https://github.com/ neurospin-projects/2022 cambroise surfaugment).
L'apprentissage de marqueurs biologiques pour une pathologie cérébrale spécifique est souvent entravé par la taille de l'ensemble de données. Avec l'avènement de grands jeux de données ouverts en population générale, de nouvelles stratégies d'apprentissage ont vu le jour. En particulier, l'apprentissage par représentation profonde consiste à former un modèle par le biais de tâches prétextes qui peuvent être utilisées pour résoudre des problèmes cliniques d'intérêt en aval. Plus récemment, l'apprentissage auto-supervisé fournit un cadre riche pour l'apprentissage de représentations par contraste d'échantillons transformés. Ces méthodes reposent sur une manipulation des données soigneusement conçue pour créer des échantillons sémantiquement similaires mais syntaxiquement différents. Parallèlement, des architectures spécifiques à un domaine, telles que les réseaux de neurones à convolutions sphériques, peuvent apprendre à partir de mesures du cerveau cortical afin de révéler des biomarqueurs originaux. Malheureusement, il n'existe que quelques augmentations basées sur la surface, et aucune d'entre elles n'a été appliquée dans un cadre d'apprentissage auto-supervisé. Nous réalisons des expériences sur deux ensembles de données open source : Big Healthy Brain et Healthy Brain Network. Nous proposons de nouvelles augmentations pour le cerveau cortical : des augmentations de base adaptées à partir d'augmentations classiques pour l'entraînement des réseaux neuronaux convolutionnels, typiquement sur des images naturelles, et de nouvelles augmentations appelées MixUp. Les résultats suggèrent que l'apprentissage auto-supervisé basé sur la surface est comparable aux modèles de référence supervisés, mais qu'il se généralise mieux à différentes tâches et ensembles de données. En outre, les représentations apprises sont améliorées par les augmentations MixUp proposées. Le code est disponible sur GitHub (https://github.com/ neurospin-projects/2022 cambroise surfaugment).
| Origine | Fichiers éditeurs autorisés sur une archive ouverte |
|---|---|
| Licence |
