Article Dans Une Revue Theoretical Computer Science Année : 2003

Density results on floating-point invertible numbers

Résumé

Let Fk denote the k-bit mantissa floating-point (FP) numbers. We prove a conjecture of Muller according to which the proportion of numbers in Fk with no FP-reciprocal (for rounding to the nearest element) approaches as k→∞. We investigate a similar question for the inverse square root.

Fichier principal
Vignette du fichier
1-s2.0-S0304397502002220-main.pdf (79.65 Ko) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)
Licence

Dates et versions

hal-02529852 , version 1 (12-12-2024)

Licence

Identifiants

Citer

Guillaume Hanrot, Joël Rivat, Gérald Tenenbaum, Paul Zimmermann. Density results on floating-point invertible numbers. Theoretical Computer Science, 2003, 291 (2), pp.135-141. ⟨10.1016/S0304-3975(02)00222-0⟩. ⟨hal-02529852⟩
126 Consultations
113 Téléchargements

Altmetric

Partager

  • More