[Résolu] Calcul Arrondi Bizarre

[jacmartun]

Bonjour,
j'ai un tableau -dont extrait ci dessous- tout bete où chaque ligne est égale à (ligne-1 * 2)
Tout va bien jusqu'à la 3eme ligne, puis ça déraille à partir de
la 4eme qui devrait se terminer par 624
la 5eme qui devrait se terminer par 240 sur la base fausse ci-dessus ou par 248 sur la base exacte

Comment faire pour supprimer cet arrondi intempestif ?
Merci de votre aide

140 737 488 355 328
281 474 976 710 656
562 949 953 421 312
1 125 899 906 842 620
2 251 799 813 685 250
4 503 599 627 370 500
9 007 199 254 740 990
18 014 398 509 482 000

[bm92]

Bonjour,
Rien de bizarre ! Calc (et les autres tableurs) effectue des calculs en nombres binaires à virgule flottante, type Double. La précision est de l'ordre de 15 chiffres décimaux.
Plus d'information sur Wikipedia anglais (la version française est insuffisante).

[jacmartun]

Merci Bernard

Pour cette réponse rapide… mais pourquoi Excel donne-t-il les "bons" chiffres ?

Cdt

[Pierre-Yves Samyn]

Bonjour

La précision est de l'ordre de 15 chiffres décimaux.

Ce qui n'est le cas que jusque la 3ème ligne...

A noter que la simple calculatrice de windows donne le bon résultat...

[Jean-Louis Cadeillan]

Bonjour,
Les tableurs ne sont vraiment pas doués pour les grandes précisions, et le net regorge d'exemples d'erreurs engendrés par cette faiblesse ... pour tous les tableurs, y compris Excel.
Par contre, je ne peux que conseiller un calculateur à précision arbitraire, libre de surcroît, qui se nomme... Calc !!!
Et là, ô miracle, il n'y a pas de limites à la précision (à part le temps de calcul...) et on peut se plonger avec délice dans les profondeurs du nombre PI ou de la suite de Syracuse...
Cordialement
Jean-Louis

Ajout : la version Windows

[jacmartun]

Merci de vos réponses

Bonne journée

[gerard24]

Bonjour,

Merci Bernard

Pour cette réponse rapide… mais pourquoi Excel donne-t-il les "bons" chiffres ?

Cdt

Excel fait comme les autres tableurs et affiche les mêmes erreurs.

précision15chiffres.jpg

A+

[Churay]

Yeap

Par contre, je ne peux que conseiller un calculateur à précision arbitraire, libre de surcroît, qui se nomme... Calc !!!

Je me laisse tenter

Et là, ô miracle, il n'y a pas de limites à la précision (à part le temps de calcul...) et on peut se plonger avec délice dans les profondeurs du nombre PI ou de la suite de Syracuse...

Concernant Pi, pour peu qu'on se contente des 2 700 billion premières décimales, le TachusPI de Fabrice Bellard est sympa... (testé sans soucis)
Pour les 5 trillion voir y-cruncher de Alexander J. Yee & Shigeru Kondo
Ce dernier étant fortement déconseillé sur des systèmes overclochés... (je n'ai pas encore testé)

oki

[Jean-Louis Cadeillan]

Concernant Pi

Respect à Ramanujan, l'homme par qui tout est arrivé... et qui n'a jamais connu d'ordinateur ...
A+
Jean-Louis

Ajout : Pour la précision arbitraire dans Calc, une issue... malheureusement refermée

[Churay]

On peut tenter de réouvrir...

Respect à Ramanujan, l'homme par qui tout est arrivé... et qui n'a jamais connu d'ordinateur ...

J'aime bien Machin et Euler (qui n'avaient pas d'ordis non plus) et chez les modernes Plouffe...

Mais bon ce n'est pas le sujet...