Approximation with activation functions and applications - Archive ouverte HAL
Pré-Publication, Document De Travail Année : 2020

Approximation with activation functions and applications

Approximation par fonctions d'activation et quelques applications

Bessi Radhia
  • Fonction : Auteur
  • PersonId : 1067971

Résumé

Function approximations arises in many branches of applied mathematics and computer science, in particular in numerical analysis, in finite element theory and more recently in data sciences domain. From most common approximation we cite, polynomial, Chebychev and Fourier series approximations. In this work we establish some approximations of a continuous function by a series of activation functions. We deal with first one and two dimensional cases, then we generalize the approximation to the multi dimensional case. Application of these approximations to: interpolation, numerical integration, finite element and neural network. Some examples will be presented.
La théorie d'approximations des fonctions couvre de nombreuses branches en mathéma-tiques appliquées, en informatique et en sciences de l'ingénieur, en particulier en analyse numérique, en théorie des éléments finis et plus récemment en sciences des données. Parmi les approximations fortement utilisées nous citons les approximations polynomiale de type La-grange, Hermite ou au sens de Chebychev. Nous trouvons aussi l'approximation d'une fonction par une séries de Fourier, l'approximation rationnelle... Dans ce travail, nous établissons quelques résultats d'approximations d'une fonction continue par une série de fonctions de type activation. Nous traitons d'abord les cas d'une fonction à une seule puis à deux variables, puis nous généralisons l'approximation au cas multidimensionnel. Nous appliquons ces approximations pour l'interpolation et l'intégration numérique, en éléments finis et en réseau neuronal. Nous donnons pour chaque applications quelques résultats numériques.
Fichier principal
Vignette du fichier
Approximate_ActivationV1.pdf (578.98 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Loading...

Dates et versions

hal-02543988 , version 1 (15-04-2020)
hal-02543988 , version 2 (21-01-2021)
hal-02543988 , version 3 (22-01-2021)
hal-02543988 , version 4 (14-04-2021)
hal-02543988 , version 5 (30-04-2021)

Identifiants

  • HAL Id : hal-02543988 , version 1

Citer

Bessi Radhia. Approximation with activation functions and applications. 2020. ⟨hal-02543988v1⟩
1091 Consultations
2358 Téléchargements

Partager

More