Prolegomena to multiresolution neural networks
Prolégomènes aux réseaux de neurones multirésolution
Résumé
Deep convolutional networks (convnets) have a predominant importance in pattern recognition, and in machine listening in particular. Although the resort to two-dimensional convolutions in the time-frequency domain has led to successful results in audio classification, the prospect of employing them directly in the raw waveform, without any a priori on the underlying time-frequency representation,would allow to take full advantage of the "end-to-end learning" paradigm. However, applying statistical machine learning to yield a spectrogram-like time-frequency representation raises issues of aliasing, scalability, and phase reconstruction. In this document, I address those issues by initiating a research program at the intersection of multiresolution approximation (MRA) and deep learning. I outline the main theoretical and experimental challenges that remain to be solved in order to train multiresolution neural networks (MuReNN) on machine listening tasks, either supervised or unsupervised.
Les réseaux convolutifs profonds (convnets) occupent une place prépondérante en reconnaissance des formes, et notamment en écoute artificielle (machine listening). Si l'utilisation de convolutions bidimensionnelles dans le plan temps-fréquence a fourni des résultant probants en classification de sons, la perspective de les employer directement sur le domaine de la forme d'onde (raw waveform), sans a priori de représentation temps-fréquence, permettrait à l'avenir de tirer pleinement parti du paradigme "de bout en bout" (end to end). Toutefois, l'apprentissage statistique d'une représentation de type spectrogramme soulève des problèmes de repliement de spectre (aliasing), de scalabilité, et de reconstruction de phase. Dans ce document, je propose d'y répondre en initiant une démarche de recherche mêlant étroitement approximations multirésolution (MRA) et apprentissage profond. J'esquisse les principaux défis théoriques et pratiques restant à relever pour entrainer des réseaux de neurones multirésolution (MuReNN) sur des tâches d'écoute artificielle, supervisées ou non.
Origine : Fichiers produits par l'(les) auteur(s)
Loading...