Je voulais savoir à quelle précison sont effectués les calculs sous excel.
Par exemple, si je tape =1/3 dans une cellule, au lieu d'obtenir
0,3333333333333333333 à l'infini, j'ai 0,333333333333333000000000. Celà
dépend-il d'un arrondi? d'un nombre d'itérations dans le calcul? Est-ce
paramétrable?
Cette action est irreversible, confirmez la suppression du commentaire ?
Signaler le commentaire
Veuillez sélectionner un problème
Nudité
Violence
Harcèlement
Fraude
Vente illégale
Discours haineux
Terrorisme
Autre
Yvan
Bonjour Domigam
La précision de calcul est 2.64E-308. Par contre Excel n'affiche que 15 chiffres significatifs maximum.
@+ Yvan
"Domigam" a écrit dans le message de news: OD$
Bonjour,
Je voulais savoir à quelle précison sont effectués les calculs sous excel. Par exemple, si je tape =1/3 dans une cellule, au lieu d'obtenir 0,3333333333333333333 à l'infini, j'ai 0,333333333333333000000000. Celà dépend-il d'un arrondi? d'un nombre d'itérations dans le calcul? Est-ce paramétrable?
merci
Bonjour Domigam
La précision de calcul est 2.64E-308.
Par contre Excel n'affiche que 15 chiffres significatifs maximum.
@+
Yvan
"Domigam" <anonymous@discussions.microsoft.com> a écrit dans le message de
news: OD$gUYdkFHA.1412@TK2MSFTNGP09.phx.gbl...
Bonjour,
Je voulais savoir à quelle précison sont effectués les calculs sous excel.
Par exemple, si je tape =1/3 dans une cellule, au lieu d'obtenir
0,3333333333333333333 à l'infini, j'ai 0,333333333333333000000000. Celà
dépend-il d'un arrondi? d'un nombre d'itérations dans le calcul? Est-ce
paramétrable?
La précision de calcul est 2.64E-308. Par contre Excel n'affiche que 15 chiffres significatifs maximum.
@+ Yvan
"Domigam" a écrit dans le message de news: OD$
Bonjour,
Je voulais savoir à quelle précison sont effectués les calculs sous excel. Par exemple, si je tape =1/3 dans une cellule, au lieu d'obtenir 0,3333333333333333333 à l'infini, j'ai 0,333333333333333000000000. Celà dépend-il d'un arrondi? d'un nombre d'itérations dans le calcul? Est-ce paramétrable?
