Polynomial Distribution of Feedforward Neural Network Output
Résumé
This paper studies the output distribution of Leaky ReLU neural networks. The input is a vector of independent uniformly distributed random variables on [0, 1]. The cumulative distribution function of the output is piecewise polynomial. We prove this characterization and give an implementable algorithm to compute the exact expression. We also discuss how to extend our result to piecewise linear neural networks with other input distributions.
Fichier principal
polynomial_arxiv.pdf (653.9 Ko)
Télécharger le fichier
dessin.pdf (18.67 Ko)
Télécharger le fichier
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|