Flottant et résultat

Bonjour,

Avec JavaScript, le résultat d'un calcul sur des flottants peut sembler
aberrant.

Ainsi, le résultat de :

10.2 - 4.3

retourne

5.8999999999999995

au lieu de

5.9

Je me dis alors qu'une simple calculatrice de poche à trois francs six
sous est bien plus performante... sauf que, en interne, une calculatrice
stocke plus de chiffres qu'elle ne le montre. Elle a en mémoire 16
chiffres (par exemple), mais n'affiche que 14 chiffres... en passant par
un arrondi.

Il suffit donc, pour le JavaScript, de faire quelque chose comme :

function simplifie(v) {
with (Math) {
v=(round(v*pow(10,14)))/pow(10,14);
}
return v;
}

a=10.2;
b=4.3;
c=a-b; // 5.8999999999999995
c=simplifie(c); // 5.9

c=a-b+0.000000007; // 5.900000006999999
c=simplifie(c); // 5.900000007

c=10.2-4.3+0.000000007; // 5.900000006999999
c=simpifie(10.2-4.3+0.000000007); // 5.900000007



Youpi ! Ça marche impeccable, y'a pas de bug... Quoi que !


Prenons un grand entier décimal.

a=100000000010.2;
b=4.3;
...

Là, du coup, il vaut mieux ne pas utiliser simplifie !!!

c=100000000010.2-4.3+0.000000007;

donne 100000000005.9

et

simplifie(c)

donne 100000000005.89998

Argh !

Il faut donc tenir compte du nombre de chiffres dans la partie entière
pour déterminer le nombre de chiffres dans la partie décimale à prendre
en compte pour l'arrondi. (je ne sais pas si je suis clair, là).

Déterminer le nombre de chiffre dans la partie entière :

Math.ceil( Math.log(c)/Math.log(10) )

On modifie donc la function simplifie()



----------------------------------------------------------------------
function simplifie(v) {
var n;
with (Math) {
n=ceil(log(c)/log(10));
v=(round(v*pow(10,15-n)))/pow(10,15-n);
}
return v;
}
----------------------------------------------------------------------



Qu'en pensez-vous ? Olivier ?

Thierry
--
* * __*__ *
* * * -----oOOo---°O°---oOOo------ * *
<http://astrophoto.free.fr> *
* * -------- oOOo oOOo -------- *