Suchergebnisse
Suchergebnisse 1-7 von insgesamt 7.
Hier erfahren Sie, wie einfach Sie Ihren Browser aktualisieren können.
-
Du hast es doch selbst geschrieben. Zitat von John422: „in einer externen Datenbank gibt es in einer Tabelle mit einer Spalte fBestand vom Typ Decimal (25,13)“ Da sollten also 13 Nachkommastellen stehen. Wenn du eintippst VB.NET-Quellcode (4 Zeilen)Dann macht er das auch so und die Datenbank macht da nix anderes. Der Decimal Datentyp ist kein Gleitkommawert, oder? Das wird der Hauptgrund sein. Ein Vergleich sollte nicht scheitern, denn die Differenz ist ja 0 egal wie viele Stellen. Mich würde in…
-
Bei einer Gleitkommazahl sind das ja, ich sag mal, tatsächlich Kommazahlen. Deswegen gibts da manchmal diese kleinen Wertverrutschungen, weil nicht jede Kommazahl in so und so vielen Bits existieren kann. Ich denke der Decimal Datentyp als Festkommazahl ist in Wahrheit ein Integer, der zusätzlich eine Kommastelle wegspeichert. Quasi 500E-4, 0E-13 Wenn man mit BigInteger arbeitet, dann bastelt man sowas z.B. selbst, weil es keinen BigDecimal gibt.
-
Zitat von ErfinderDesRades: „Zwei gleiche Dinge müssen, wenn sie auf gleiche Weise ausgegeben werden, auch gleich aussehen“ Das stimmt doch nicht: 5000E-2 = 500E-1 = 5E1 Das ist alles 1 Ding, nämlich die Zahl 50. Alle diese Darstellungen existieren dennoch.
-
Oh hm, würde nicht mitgehen, dass das ein "logisches Gesetz" ist, vielleicht ist das ein Gesetz im VB.Net Code, weiß ich nicht. Aber ich verstehe sehr wohl, was du meinst. Habe auch mal mein Beispiel versucht einzutippern. VS nimmt kein 50.00D , stutzt der so auf 50D. Wenn man 50.00 haben möchte muss man 50 + 0.00D schreiben. Also die 0 sticht da wirklich raus. Gleichzeitig, wenn ich = implementieren müsste, dann guck ich bei String = String einen anderen Algorithmus an als bei Dec = Dec Ich den…
-
Gut, da haben wir nun drei Fachgebiete, die sich sicher alle nicht in alle Punkten einig sind, Mathematik, Informatik und Logik. Also Informatisch gilt hier offensichtlich: a=b und a.ToString <> b.ToString. Mathematisch gilt: a=b => f(a) = f(b) Und logisch gilt damit folglich: ToString ist keine Abbildung. Irgendwo muss eine Festkommazahl ja auch die Kommastelle speichern, die Bits können nicht gleich sein.
-
Naja du hast es selbst gesagt.^^ Zitat von ErfinderDesRades: „glaub mir, es ist ein mathematisches Gesetz: Sind zwei Dinge gleich, so sind auch ihre Abbildungen gleich.“Also ist ToString nun eine Abbildung oder ist das ein mathematisches Gesetz? Du kannst nicht beides haben. Ich sags nur weil du Informatik, Mathematik und Logik gegeneinander austauschst wie es dir passt. Da kann man einfach nicht folgen.
-
Eine Funktion kann ihre Implementierung ja nur anhand der Signatur unterscheiden. Und es sind die gleichen Signaturen.