Suchergebnisse

Das Problem dürfte tatsächlich am Double liegen. Hier ein Beispiel mit nem Single nach IEEE 754 (dem Float-Standard, 32 Bit): (0,1) in Basis 10 ist als IEEE 754 = [0 | 01111011 | 10011001100110011001101] in Basis 2. Problem: Die Nachkommastellen sind in Basis 2 periodisch, aber nach 23 Bit wird abgeschnitten. Das ändert den Wert minimal. Rechnet man zurück, kommt 0.100000001490116119384765625 raus --> fail. Wenn du damit dann auch noch weiterrechnest (Matrixmultiplikation, +=), vergrößert sich d…

Epsilon ist einfach die Abweichung, die du zu tolerieren bereit bist. Abhilfe: - Eine Abweichung bis zu Epsilon tolerieren - In höherer Genauigkeit rechnen und dann abschneiden (Decimal) - Runden In allen Fällen brauchst du eine Fehlerbetrachtung, die den worst case abbildet. So weißt du, welches Epsilon du wählen kannst / wann du abschneiden kannst / auf welche Stelle du runden solltest. Ganz andere Möglichkeit: Mit Ganzzahlen rechnen, solange nur Addition / Subtraktion gefragt sind und die Zah…