Suchergebnisse

Suchergebnisse 1-2 von insgesamt 2.

  • Benutzer-Avatarbild

    Arithmetischer Überlauf

    Arby - - Sonstige Problemstellungen

    Beitrag

    Zitat von gfcwfzkm: „VB.NET-Quellcode (1 Zeile) Aber der Fehler bleibt“ VB.NET-Quellcode (1 Zeile) ...wobei man das vordere "And &HFF" hierbei weglassen können müsste, sofern sich dabei nicht der Typ des Ausdrucks ändert.

  • Benutzer-Avatarbild

    Arithmetischer Überlauf

    Arby - - Sonstige Problemstellungen

    Beitrag

    Zitat von gfcwfzkm: „Mit Arby's Methode funktioniert es einwandfrei, danke.“ Die Frage ist ob das Ergebnis auch das erwartete ist. Es ist nämlich leider nicht ganz klar - auch nach deiner Erläuterung und dem Screenshot nicht - was bei einem Überlauf eigentlich passieren soll. Soll jeglicher Wert, der beim Addieren über den maximal erlaubten Byte-Wert 255 hinausgeht, auf 255 "gedeckelt" oder alle "überlaufenden" Bits einfach weggeschnitten werden, d.h. nach 255+1 ergäbe wieder den Wert 0 usw.? Me…