En additionnant et soustrayant 3 ou 4 nombres simples, définis avec 2
décimales,
j'obtiens un résultat erroné à 10E-14 près. L'erreur est gênante non pas à
cause
de l'imprécision mais des tests effectués sur le résultat qui entraînent des
erreurs d'application (ex. : si je teste la valeur 0 pour définir des
conséquences
de traitement de données et que c'est 0,000000000007 qui apparaît, le test ne
fonctionne pas correctement). Je peux évidemment arrondir l'ensemble des
calculs mais je m'étonne qu'Excel se trompe aussi souvent pour des opérations
a priori anodine.
L'erreur se reproduit quel que soit l'OS ou la version d'Office.
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir -7,11E-15 au lieu de 0 cela me semble aberrant ! ... et je me demande en quoi je dépasse la précision d'Excel !!!
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir
-7,11E-15 au lieu de 0 cela me semble aberrant !
... et je me demande en quoi je dépasse la précision d'Excel !!!
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir -7,11E-15 au lieu de 0 cela me semble aberrant ! ... et je me demande en quoi je dépasse la précision d'Excel !!!
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir -7,11E-15 au lieu de 0 cela me semble aberrant !
i.1-(35.1+32+2) Chez moi j'obtiens 0 !
AV
ROGEON Eric
"AV" a écrit dans le message de news:
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir -7,11E-15 au lieu de 0 cela me semble aberrant !
i.1-(35.1+32+2) Chez moi j'obtiens 0 !
AV
Bonjour,
Sur mon PC cela donne bien 0 aussi ! Par contre, 10575.79-10054.65-521.14 me donne 1.25E-12 au lieu de 0.
J'ai ouïe dire que cela pouvait venir du couple processeur mathématique / système d'exploitation. J'ai eu des problèmes similaires avec un autre logiciel installé sur divers poste avec différents OS. Ce dernier me donnait des résultats différents d'un poste à l'autre (Pb d'arrondis en occurrence).
Quoi qu'il en soit, c'est tout de même inadmissible.
Eric.
"AV" <alainPFFFvallon@wanadoo.fr> a écrit dans le message de news:
ebCUtO4kFHA.2152@TK2MSFTNGP14.phx.gbl...
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir
-7,11E-15 au lieu de 0 cela me semble aberrant !
i.1-(35.1+32+2)
Chez moi j'obtiens 0 !
AV
Bonjour,
Sur mon PC cela donne bien 0 aussi !
Par contre, 10575.79-10054.65-521.14 me donne 1.25E-12 au lieu de 0.
J'ai ouïe dire que cela pouvait venir du couple processeur mathématique /
système d'exploitation.
J'ai eu des problèmes similaires avec un autre logiciel installé sur divers
poste avec différents OS. Ce dernier me donnait des résultats différents
d'un poste à l'autre (Pb d'arrondis en occurrence).
Quoi qu'il en soit, c'est tout de même inadmissible.
Peut-être mais effectuer 69,1-(35,1+32+2) et obtenir -7,11E-15 au lieu de 0 cela me semble aberrant !
i.1-(35.1+32+2) Chez moi j'obtiens 0 !
AV
Bonjour,
Sur mon PC cela donne bien 0 aussi ! Par contre, 10575.79-10054.65-521.14 me donne 1.25E-12 au lieu de 0.
J'ai ouïe dire que cela pouvait venir du couple processeur mathématique / système d'exploitation. J'ai eu des problèmes similaires avec un autre logiciel installé sur divers poste avec différents OS. Ce dernier me donnait des résultats différents d'un poste à l'autre (Pb d'arrondis en occurrence).
Quoi qu'il en soit, c'est tout de même inadmissible.
Eric.
AV
Quoi qu'il en soit, c'est tout de même inadmissible.
Histoire de conversion décimal/binaire ce me semble... http://www.fact-index.com/i/ie/ieee_floating_point_standard.html
AV
Quoi qu'il en soit, c'est tout de même inadmissible.
Histoire de conversion décimal/binaire ce me semble...
http://www.fact-index.com/i/ie/ieee_floating_point_standard.html
