Online-Skater
Erfahrenes Mitglied
Hi Leute,
ich habe wahrscheinlich ein unfassbar einfaches Problem aber ich habe mich damit noch nicht so richtig beschäftigt und finde komischerweise auch bei der renommierten Suchmaschine nichts vernünftiges.
Problem: Für den Gauß-Algorythmus habe ich folgende Zeile:
Manchmal kommen dort für mich unerwartende Werte raus z.b. -8/-6 = 4/3 = 1,33333~Periode der Rechner meint nun das ergibt -1.#INF
Ja gut das er die rationale Zahl nicht korrekt darstellen kann ist mir aufgrund der Rechnerarchitektur schon klar aber ich habe erwartet das er irgendwann abschneidet.
Wie kann ich das Problem lösen ?
Danke für eure Anregungen
ich habe wahrscheinlich ein unfassbar einfaches Problem aber ich habe mich damit noch nicht so richtig beschäftigt und finde komischerweise auch bei der renommierten Suchmaschine nichts vernünftiges.
Problem: Für den Gauß-Algorythmus habe ich folgende Zeile:
C++:
double z = -(_arr[j][i]/_arr[i][i]);
Manchmal kommen dort für mich unerwartende Werte raus z.b. -8/-6 = 4/3 = 1,33333~Periode der Rechner meint nun das ergibt -1.#INF
Ja gut das er die rationale Zahl nicht korrekt darstellen kann ist mir aufgrund der Rechnerarchitektur schon klar aber ich habe erwartet das er irgendwann abschneidet.
Wie kann ich das Problem lösen ?
Danke für eure Anregungen
