Petite curiosité LO7.3/LO7.2/Excel, grands nombres

[pierre_c]

Bonjour,
Faites un essai
4 cases sur un tableur avec 1 ; 10E100 ; 1 ; -10E100
Faites la somme de ces 4 nombres en utilisant la fonction somme()

Excel donne 0

LO 7.2 donne 1

LO 7.3 donne le bon résultat : 2

L’algorithme suivant a été implémenté dans la dernière version de LO

https://en.wikipedia.org/wiki/Kahan_summation_algorithm
Pierre

[Philippe.s.Lévi]

Salut,

Curieux en effet !
Une histoire dans le genre: l'ordre des tracteurs change le pont ! (en traduction libre d'un proverbe en portugais qui dit : A ordem dos tratores não altera o viaduto. Et que je mets au positif! )

OO 4.1.11 donne le résultat 1
LO 7.2.5.2 donne bien 2

si on fait pas à pas (en sommant les 2 premiers, puis le troisième et enfin le quatrième) tous donne 0 comme résultat. car tous donne 1 + 1E100 = 1E100 ... pas très surprenant !

Philippe

[pierre_c]

En fait, on n'est pas obligé de mettre 1E100. Car effectivement, ça revient à négligé 1 devant 1E100

Le calcul devient faux à partir de 1E16 avec Excel & AOO. Mais effectivement, on peut avoir des calculs ou les grands nombres s'annulent et on recherche finalement, les petits chiffres

AOO comme LO avant le patch j'imagine, ne prend pas en compte la seconde valeur 1. Excel ignore les deux 1

[Philippe Gauthier]

Bonjour,
Avec LO 7.1.8.1,
j'ai le bon résultat (2) avec la fonction SOMME(A1:D1)
mais faux (résultat 1) avec la fonction A1+B1+C1+D1.

[pierre_c]

Bonjour,
Avec LO 7.1.8.1,
j'ai le bon résultat (2) avec la fonction SOMME(A1:D1)
mais faux (résultat 1) avec la fonction A1+B1+C1+D1.

Sans doute que l’algorithme de somme de Kahan a été implémenté dans la fonction somme(), et qu'il n'était pas possible de le faire dans le cas ou l'on fait directement la somme de cellules et aussi possiblement des multiplications et autres calculs