Hallo,
habe das Problem dass, durch Zahlreiche Konvertierungen zwischen double und float (is nicht schön ich weis, muss aber sein), ich abweichungen in den Letzten nachkommastellen bekomme. Da float 8-Stellen nach dem komma genau ist möchte ich den auf 6-Stellen nach dem Komma runden bzw abschneiden. Habe aber keinen blassen schimmer wie ich das mache.
0.87654321 -> 0.876543
LG
habe das Problem dass, durch Zahlreiche Konvertierungen zwischen double und float (is nicht schön ich weis, muss aber sein), ich abweichungen in den Letzten nachkommastellen bekomme. Da float 8-Stellen nach dem komma genau ist möchte ich den auf 6-Stellen nach dem Komma runden bzw abschneiden. Habe aber keinen blassen schimmer wie ich das mache.
0.87654321 -> 0.876543
LG