Histoire des réseaux de neurones et du deep learning en traitement des signaux et des images
Résumé
This paper gives an overview of the history of neural networks for signal and image processing, from their foundations until the successes of modern deep learning. We present their key elements in terms of architecture and training, and highlight the importance of the big data aspects and GPU hardware acceleration. Finally, we mention current strong trends towards self-supervised learning, attention mechanisms and transformers.
Cette soumission trace un historique des réseaux de neurones informatiques pour le traitement du signal et des images, depuis leurs fondements jusqu'aux succès du deep learning moderne. Nous présentons leurs éléments clés des modèles en termes d'architecture et d'entraînement, et soulignons l'importance du Big Data et de l'accélération matérielle des GPU. Enfin, nous mentionnons les tendances fortes actuelles à travers l'apprentissage auto-supervisé, les mécanismes attentionnels et les transformers.
Domaines
Informatique [cs]
Fichier principal
gretsi.pdf (978.03 Ko)
Télécharger le fichier
Figs_Gretsi_Frise2.pdf (14.59 Ko)
Télécharger le fichier
cnn_vs_vit.pdf (499.65 Ko)
Télécharger le fichier
gretsi.cls (3.62 Ko)
Télécharger le fichier
gretsi_mlp.pdf (94.71 Ko)
Télécharger le fichier
rnn.pdf (60.48 Ko)
Télécharger le fichier
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |
| Licence |
|---|
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|---|
| Licence |