Avoiding double roundings in scaled Newton-Raphson division

Jean-Michel Muller 1, 2
1 ARIC - Arithmetic and Computing
Inria Grenoble - Rhône-Alpes, LIP - Laboratoire de l'Informatique du Parallélisme
Abstract : When performing divisions using Newton-Raphson (or similar) iterations on a processor with a floating-point fused multiply-add instruction, one must sometimes scale the iterations, to avoid over/underflow and/or loss of accuracy. This may lead to double-roundings, resulting in output values that may not be correctly rounded when the quotient falls in the subnormal range. We show how to avoid this problem.
Type de document :
Communication dans un congrès
Asilomar Conference on Signals, Systems, and Computers, Nov 2013, Pacific Grove, CA, United States. 4 p., 2013
Liste complète des métadonnées

Littérature citée [9 références]  Voir  Masquer  Télécharger

https://hal-ens-lyon.archives-ouvertes.fr/ensl-00875366
Contributeur : Jean-Michel Muller <>
Soumis le : lundi 21 octobre 2013 - 19:46:13
Dernière modification le : vendredi 20 avril 2018 - 15:44:26
Document(s) archivé(s) le : vendredi 7 avril 2017 - 14:30:55

Fichier

ScaledDivIter.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : ensl-00875366, version 1

Collections

Citation

Jean-Michel Muller. Avoiding double roundings in scaled Newton-Raphson division. Asilomar Conference on Signals, Systems, and Computers, Nov 2013, Pacific Grove, CA, United States. 4 p., 2013. 〈ensl-00875366〉

Partager

Métriques

Consultations de la notice

258

Téléchargements de fichiers

259