Scaling Newton-Raphson division iterations to avoid double rounding

Jean-Michel Muller 1
1 ARENAIRE - Computer arithmetic
Inria Grenoble - Rhône-Alpes, LIP - Laboratoire de l'Informatique du Parallélisme
Abstract : When performing divisions using Newton-Raphson (or similar) iterations on a processor with a floating-point fused multiply-add instruction, one must sometimes scale the iterations, to avoid over/underflow and/or loss of accuracy. This may lead to double-roundings, resulting in output values that may not be correctly rounded when the quotient is in the subnormal range. We show how to avoid this problem.
Type de document :
Pré-publication, Document de travail
LIP research report number RRLIP2010-21. 2010
Liste complète des métadonnées

Littérature citée [6 références]  Voir  Masquer  Télécharger

https://hal-ens-lyon.archives-ouvertes.fr/ensl-00496368
Contributeur : Jean-Michel Muller <>
Soumis le : mercredi 30 juin 2010 - 14:25:22
Dernière modification le : vendredi 20 avril 2018 - 15:44:23
Document(s) archivé(s) le : mardi 23 octobre 2012 - 09:40:44

Fichier

ScalingNRDiv.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : ensl-00496368, version 1

Collections

Citation

Jean-Michel Muller. Scaling Newton-Raphson division iterations to avoid double rounding. LIP research report number RRLIP2010-21. 2010. 〈ensl-00496368〉

Partager

Métriques

Consultations de la notice

221

Téléchargements de fichiers

230