Je suis confronter à un grave problème de calcul avec les réels manipulés
par Windev.
En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la
sommation (pour l'instant) de chiffres réels donne un résultat aléatoire.
Dans l'aide en ligne, ils disent bien que c'est un problème lié au calcul en
virgule flottante et non inhérent à Windev
mais j'y émet un doute.
Une solution est de prendre un facteur multiplicateur de 1000000 mais si des
erreurs se glissent en sommation je pense qu'en multiplication ce la est la
même chose.
Quelqu'un a t'il une idée sur la question
Cette action est irreversible, confirmez la suppression du commentaire ?
Signaler le commentaire
Veuillez sélectionner un problème
Nudité
Violence
Harcèlement
Fraude
Vente illégale
Discours haineux
Terrorisme
Autre
JBT
Jean-Yves BURLOT a exprimé avec précision :
Bonjour à tous.
Je suis confronter à un grave problème de calcul avec les réels manipulés par Windev. En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la sommation (pour l'instant) de chiffres réels donne un résultat aléatoire. Dans l'aide en ligne, ils disent bien que c'est un problème lié au calcul en virgule flottante et non inhérent à Windev mais j'y émet un doute. Une solution est de prendre un facteur multiplicateur de 1000000 mais si des erreurs se glissent en sommation je pense qu'en multiplication ce la est la même chose. Quelqu'un a t'il une idée sur la question
Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des réels déjà sous le dos ! Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE Solution : type montaire.
--
Jean-Yves BURLOT a exprimé avec précision :
Bonjour à tous.
Je suis confronter à un grave problème de calcul avec les réels manipulés
par Windev.
En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la
sommation (pour l'instant) de chiffres réels donne un résultat aléatoire.
Dans l'aide en ligne, ils disent bien que c'est un problème lié au calcul en
virgule flottante et non inhérent à Windev
mais j'y émet un doute.
Une solution est de prendre un facteur multiplicateur de 1000000 mais si des
erreurs se glissent en sommation je pense qu'en multiplication ce la est la
même chose.
Quelqu'un a t'il une idée sur la question
Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des
réels déjà sous le dos !
Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE
Solution : type montaire.
Je suis confronter à un grave problème de calcul avec les réels manipulés par Windev. En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la sommation (pour l'instant) de chiffres réels donne un résultat aléatoire. Dans l'aide en ligne, ils disent bien que c'est un problème lié au calcul en virgule flottante et non inhérent à Windev mais j'y émet un doute. Une solution est de prendre un facteur multiplicateur de 1000000 mais si des erreurs se glissent en sommation je pense qu'en multiplication ce la est la même chose. Quelqu'un a t'il une idée sur la question
Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des réels déjà sous le dos ! Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE Solution : type montaire.
--
Jean-Yves BURLOT
Merci pour ta réponse
"JBT" a écrit dans le message de news:
Jean-Yves BURLOT a exprimé avec précision : > Bonjour à tous. > > Je suis confronter à un grave problème de calcul avec les réels
manipulés
> par Windev. > En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la > sommation (pour l'instant) de chiffres réels donne un résultat
aléatoire.
> Dans l'aide en ligne, ils disent bien que c'est un problème lié au
calcul en
> virgule flottante et non inhérent à Windev > mais j'y émet un doute. > Une solution est de prendre un facteur multiplicateur de 1000000 mais si
des
> erreurs se glissent en sommation je pense qu'en multiplication ce la est
la
> même chose. > Quelqu'un a t'il une idée sur la question > > Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des réels déjà sous le dos ! Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE Solution : type montaire.
--
Merci pour ta réponse
"JBT" <forumnewswindev@ifrance.com> a écrit dans le message de
news:mesnews.c25a7d49.edc3c013.81.10132@ifrance.com...
Jean-Yves BURLOT a exprimé avec précision :
> Bonjour à tous.
>
> Je suis confronter à un grave problème de calcul avec les réels
manipulés
> par Windev.
> En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la
> sommation (pour l'instant) de chiffres réels donne un résultat
aléatoire.
> Dans l'aide en ligne, ils disent bien que c'est un problème lié au
calcul en
> virgule flottante et non inhérent à Windev
> mais j'y émet un doute.
> Une solution est de prendre un facteur multiplicateur de 1000000 mais si
des
> erreurs se glissent en sommation je pense qu'en multiplication ce la est
la
> même chose.
> Quelqu'un a t'il une idée sur la question
>
> Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des
réels déjà sous le dos !
Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE
Solution : type montaire.
Jean-Yves BURLOT a exprimé avec précision : > Bonjour à tous. > > Je suis confronter à un grave problème de calcul avec les réels
manipulés
> par Windev. > En effet dès que les 6 ou 7 chiffres après la virgule sont dépassés, la > sommation (pour l'instant) de chiffres réels donne un résultat
aléatoire.
> Dans l'aide en ligne, ils disent bien que c'est un problème lié au
calcul en
> virgule flottante et non inhérent à Windev > mais j'y émet un doute. > Une solution est de prendre un facteur multiplicateur de 1000000 mais si
des
> erreurs se glissent en sommation je pense qu'en multiplication ce la est
la
> même chose. > Quelqu'un a t'il une idée sur la question > > Merci à tous.
Tu n'as pas à douter, c'est un grand classique qui date du codage des réels déjà sous le dos ! Info : http://faq.pcsoft.fr/webdev7/faqsearch.awp?search=IEEE Solution : type montaire.
