Summary Report : A Simple Framework for Contrastive Learning of Visual Representations - Archive ouverte HAL
Pré-Publication, Document De Travail Année : 2022

Summary Report : A Simple Framework for Contrastive Learning of Visual Representations

Rapport de synthèse : Un cadre simple pour l'apprentissage contrastif des représentations visuelles

Résumé

This is a short article trying to reproduce the some of the findings of the SimCLR paper [1]. The SimCLR paper was published at the ICML conference in 2020 by the Google AI team. The following experiment has been done with different hyper-parameters and with sometimes different data sets than the original paper, but still managed to observe around the same relative effectiveness to other supervised and self-supervised methods trained in the same conditions. The results found here are in no way an affirmation of the original paper, just a hint at the possibility of using those same methods with smaller training requirements. This was written in the context of a second year introduction to doctoral research at Enseirb-Matmeca by computer science students.
Il s'agit d'un court article qui tente de reproduire certaines des conclusions de l'article SimCLR [1]. L'article SimCLR a été publié lors de la conférence ICML en 2020 par l'équipe Google AI. L'expérience suivante a été réalisée avec des hyper-paramètres différents et des jeux de données parfois différents de ceux de l'article original, mais a tout de même réussi à observer une efficacité relative similaire à celle d'autres méthodes supervisées et auto-supervisées entraînées dans les mêmes conditions. Les résultats trouvés ici ne sont en aucun cas une affirmation de l'article original, mais simplement une indication de la possibilité d'utiliser ces mêmes méthodes avec des exigences d'entraînement moindres. Cet article a été rédigé dans le cadre d'une introduction à la recherche doctorale en deuxième année à l'Enseirb-Matmeca par des étudiants en informatique.
Fichier principal
Vignette du fichier
Summary_Report___A_Simple_Framework_for_Contrastive_Learning_of_Visual_Representations.pdf (4.22 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

hal-04175012 , version 1 (15-08-2023)

Licence

Identifiants

  • HAL Id : hal-04175012 , version 1

Citer

Théo Michel, Widad Zizouan. Summary Report : A Simple Framework for Contrastive Learning of Visual Representations. 2022. ⟨hal-04175012⟩
234 Consultations
65 Téléchargements

Partager

More