Approximation with activation functions and applications - Archive ouverte HAL Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2021

Approximation with activation functions and applications

Approximation par fonctions d'activation et quelques applications

Radhia Bessi
  • Fonction : Auteur
  • PersonId : 1067971

Résumé

Function approximation arises in many branches of applied mathematics and computer science, in particular in numerical analysis, in finite element theory and more recently in data sciences domain. From most common approximation we cite, polynomial, Chebychev and Fourier series approximations. In this work we establish some approximations of a continuous function by a series of activation functions. First, we deal with one and two dimensional cases. Then, we generalize the approximation to the multi dimensional case. Examples of applications of these approximations are: interpolation, numerical integration, finite element and neural network. Finally, we will present some numerical results of the examples above.
La théorie d’approximation des fonctions couvre de nombreuses branches en mathématiques appliquées, en informatique et en sciences de l’ingénieur, en particulier en analyse numérique, en théorie des éléments finis et plus récemment en sciences des données. Parmi les approximations fortement utilisées nous citons les approximations polynomiale de type Lagrange, Hermite ou au sens de Chebychev. Nous trouvons aussi l’approximation d’une fonction par une séries de Fourier, l’approximation rationnelle... Dans ce travail, nous établissons quelques résultats d’approximations d’une fonction continue par une série de fonctions de type activation. Nous traitons d’abord les cas d’une fonction à une seule puis à deux variables, puis nous généralisons l’approximation au cas multidimensionnel. Nous appliquons ces approximations pour l’interpolation et l’intégration numérique, en éléments finis et en réseau neuronal. Nous donnons pour chaque application quelques résultats numériques.
Fichier principal
Vignette du fichier
Approximate_ActivationV4.pdf (569.25 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-02543988 , version 1 (15-04-2020)
hal-02543988 , version 2 (21-01-2021)
hal-02543988 , version 3 (22-01-2021)
hal-02543988 , version 4 (14-04-2021)
hal-02543988 , version 5 (30-04-2021)

Identifiants

  • HAL Id : hal-02543988 , version 4

Citer

Radhia Bessi. Approximation with activation functions and applications. 2021. ⟨hal-02543988v4⟩
1051 Consultations
1949 Téléchargements

Partager

Gmail Facebook X LinkedIn More