Twitter iPhone pliant OnePlus 11 PS5 Disney+ Orange Livebox Windows 11

Résultats de calculs faux ?

3 réponses
Avatar
Jeff
Bonjour,

Lorsque je tape l'instruction suivante dans la fenêtre d'exécution de VBA :
?544.425*10-5444.25

j'obtiens le résultat suivant :
-4.54747350886464E-13

Ce test a été effectué en Access 2000 et 2003.

Qu'en pensez-vous ?

Merci

Jeff

3 réponses

Avatar
Rv
Salut,

J'en pense qu'une recherche sur Google serait éloquente.
En résumé les nombres sont stockés comme des réels à virgule flotante.
Donc il y a forcément une perte de précision dans ce type de données. Il
s'agit ici d'un problème de calcul numérique (représentation des nombres en
machine) assez incontournable et indépendant du langage de programmation
voire de la machine ou du système.

A+

Rv

"Jeff" a écrit dans le message de
news:
Bonjour,

Lorsque je tape l'instruction suivante dans la fenêtre d'exécution de VBA
:

?544.425*10-5444.25

j'obtiens le résultat suivant :
-4.54747350886464E-13

Ce test a été effectué en Access 2000 et 2003.

Qu'en pensez-vous ?

Merci

Jeff




Avatar
Jeff
Pourtant la même opération effectuée dans Excel ou à l'aide de la
calculatrice Windows retourne bien 0 ?

Jeff



"Rv" a écrit dans le message de
news:
Salut,

J'en pense qu'une recherche sur Google serait éloquente.
En résumé les nombres sont stockés comme des réels à virgule flotante.
Donc il y a forcément une perte de précision dans ce type de données. Il
s'agit ici d'un problème de calcul numérique (représentation des nombres
en

machine) assez incontournable et indépendant du langage de programmation
voire de la machine ou du système.

A+

Rv

"Jeff" a écrit dans le message de
news:
Bonjour,

Lorsque je tape l'instruction suivante dans la fenêtre d'exécution de
VBA


:
?544.425*10-5444.25

j'obtiens le résultat suivant :
-4.54747350886464E-13

Ce test a été effectué en Access 2000 et 2003.

Qu'en pensez-vous ?

Merci

Jeff








Avatar
Rv
Salut,

J'utilise office 2000 et excel me retourne bien le même résultat <> 0
qu'access.
Pour la calculatrice windows je ne sais pas bien comment elle s'y prend
mais je pense qu'il y a moyen de la mettre en défaut. Par exemple avec
racine carre(2) répété une trentaine de fois puis le résultat au carré le
même nombre de fois ne retourne pas exactement 2.

A+

Rv


"Jeff" a écrit dans le message de
news:
Pourtant la même opération effectuée dans Excel ou à l'aide de la
calculatrice Windows retourne bien 0 ?

Jeff



"Rv" a écrit dans le message de
news:
Salut,

J'en pense qu'une recherche sur Google serait éloquente.
En résumé les nombres sont stockés comme des réels à virgule
flotante.


Donc il y a forcément une perte de précision dans ce type de données. Il
s'agit ici d'un problème de calcul numérique (représentation des nombres
en

machine) assez incontournable et indépendant du langage de programmation
voire de la machine ou du système.

A+

Rv

"Jeff" a écrit dans le message de
news:
Bonjour,

Lorsque je tape l'instruction suivante dans la fenêtre d'exécution de
VBA


:
?544.425*10-5444.25

j'obtiens le résultat suivant :
-4.54747350886464E-13

Ce test a été effectué en Access 2000 et 2003.

Qu'en pensez-vous ?

Merci

Jeff