Mit Komma rechnen...

[Strafi]

Hallo,



wie rechne ich zb.

0.144877694179581 + 0.137448068837038 + 0.122588818151953 + 0.100299942124325


so aus, damit da auch was sinnvolles rauskommt********



Grüße

 

[tombe]

Gegenfrage: was ist bei dir "sinnvoll"?

Denn wenn du obige Berechnung so du sie geschrieben hast mit alert ausgibst, kommt das richtige Ergebnis raus!

 

[Strafi]

ich versuche

5.56% * 0,1551961009 = 0.0931176605676654 im Javascript

in exel habe ich 0,0086220056 raus

 

[tombe]

1) Darfst du % nicht direkt angeben
2) musst du Klammern setzen
3) hast du ein Komma anstelle des Punktes als Dezimaltrenner.

alert((5.56/100) * 0.1551961009);

Ergebnis = 0.00862890321004

Was ich vergessen habe. So berechnet es mein Excel auch!

 

[Strafi]

gut er rechnet jetzt 0.00862890321260366 aus aber execel macht genauer 0,0086220056


ich verwende diese funktion

function runde(x, n) {
if (n < 1 || n > 14) return false;
var e = Math.pow(10, n);
var k = (Math.round(x * e) / e).toString();
if (k.indexOf('.') == -1) k += '.';
k += e.toString().substring(1);
return k.substring(0, k.indexOf('.') + n+1);
}

 

[tombe]

Komisch, bei mir kommt in Excel genau das selbe heraus und auch meine Rechenmaschine berechnet es so wie oben geschrieben.

Jetzt stellt sich die Frage was stimmt!?

 

[sheel]

Hi

warum ist Excel "genauer"?
Keine Ahnung, wie Excel das intern rechnet,
aber ich hab grad mit drei anderen (verlässlichen) Möglichkeiten
Zahlen bekommen, die zum ersten Ergebnis passen.
Wenn man sich ganz sicher sein will kann man ja händisch am Papier nachrechnen...

 

[Strafi]

du hast recht, selbst der taschenrechner bringt mein JS ergebnis 8)

 

[Jan-Frederik Stieler]

Don't trust the M$