Shadow computation with BFloat16 to compute numerical accuracy - Archive ouverte HAL Accéder directement au contenu
Pré-Publication, Document De Travail Année : 2021

Shadow computation with BFloat16 to compute numerical accuracy

Pablo de Oliveira Castro
Matei Istoan
Eric Petit

Résumé

In this article, we propose to exploit the new computational capability offered by the Bfloat16 representation format to perform shadow computations and compute estimations of the relative error. We demonstrate and evaluate the assumptions under which shadow computation is valid for the summation problem.
Fichier principal
Vignette du fichier
Pivoting_strategies (19).pdf (306.44 Ko) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

hal-03159965 , version 1 (04-03-2021)
hal-03159965 , version 2 (26-05-2021)

Identifiants

  • HAL Id : hal-03159965 , version 1

Citer

David Defour, Pablo de Oliveira Castro, Matei Istoan, Eric Petit. Shadow computation with BFloat16 to compute numerical accuracy. 2021. ⟨hal-03159965v1⟩
139 Consultations
307 Téléchargements

Partager

Gmail Facebook X LinkedIn More