Problem mit Ascii Art Generator

sothere · 25. August 2015, 20:22

Hallöchen ihr lieben,
ich habe gerade ein Problem:
Ich will einen einfachen, simplen Ascii Art Generator in meine Anwendung integrieren, ähnlich diesem.

Allerdings bekomme ich aus irgend einem Grund immer einen Overflow wenn ich eine Konvertierung durchführen möchte.

Der Fehler tritt bei Dim red As Integer = CInt((pixelColor.R + pixelColor.G + pixelColor.B) / 3) auf

Spoiler anzeigen

VB.NET-Quellcode

Private Function ConvertToAscii(image As Bitmap) As String
Dim toggle As Boolean = False
Dim sb As New StringBuilder()
For h As Integer = 0 To image.Height - 1
For w As Integer = 0 To image.Width - 1
Dim pixelColor As Color = image.GetPixel(w, h)
Dim red As Integer = CInt((pixelColor.R + pixelColor.G + pixelColor.B) / 3)
Dim green As Integer = CInt((pixelColor.R + pixelColor.G + pixelColor.B) / 3)
Dim blue As Integer = CInt((pixelColor.R + pixelColor.G + pixelColor.B) / 3)
Dim grayColor As Color = Color.FromArgb(red, green, blue)
If Not toggle Then
Dim index As Integer = CInt((grayColor.R * 10) / 255)
sb.Append(_AsciiChars(index))
End If
Next
If Not toggle Then
sb.Append("<BR>")
toggle = True
Else
toggle = False
End If
Next
Return sb.ToString()
End Function
Private _AsciiChars As String() = {"#", "#", "@", "%", "=", "+", "*", ":", "-", ".", "", "1", "2", "3", "4", "5", "6", "7", "8", "9"}
Sub StartDisplay(URL As String)
Dim image As New Bitmap(URL, True)
Dim _Content = ConvertToAscii(image)
Debug.Write(_Content)

Weiß jemand, woran das liegt und wie man das beheben kann?

petaod · 25. August 2015, 20:40

Die Summe von 3 Integern ergibt hier wohl "Integer Overflow"
Das könnte man beheben, indem man einzeln dividiert:
Dim red As Integer = CInt(pixelColor.R / 3.0 + pixelColor.G / 3.0 + pixelColor.B / 3.0)

sothere · 25. August 2015, 20:47

Mein Fehler!
Danke

~blaze~ · 25. August 2015, 22:28

Hi
ein paar kleine Kritikpunkte deines Quellcodes:
- Ich würde _AsciiChars als Char() und nicht als String() deklarieren
- Den Grauwert würde ich über GetBrightness ermitteln, d.h. 255 * pixelColor.GetBrightness(). Du kannst auch direkt über LockBits arbeiten, dann wäre Brightness aber anhand einer anderen Funktion zu ermitteln. (War das nicht irgendwie (Max{r, g, b}+Min{r, g, b}) / 2 oder sowas?)
- Du berechnest den Grauwert übrigens drei mal, obwohl gilt red = green = blue = grayColor.R = grayColor.G = grayColor.B, das solltest du weglassen

Viele Grüße
~blaze~

Niko Ortner · 25. August 2015, 23:41

Hier wird nicht Die Summe von 3 Integern berechnet, sondern die Summe von 3 Bytes. Und Byte + Byte = Byte, deshalb kommt es auch sehr schnell zu einem Overflow.
Korrekt ist hier, vorher schon zu Integer zu konvertieren:

VB.NET-Quellcode

Dim Average = (CInt(Pixel.R) + CInt(Pixel.G) + CInt(Pixel.B)) / 3
'Oder so, weil Integer + Byte = Integer, aber das sieht komisch aus:
Dim Average = (CInt(Pixel.R) + Pixel.G + Pixel.B) / 3

RodFromGermany · 26. August 2015, 06:51

Niko Ortner schrieb:

VB.NET-Quellcode

Dim Average = (CInt(Pixel.R) + Pixel.G + Pixel.B) / 3

Damit Aveerage nicht vom Typ Double ist, machen wir noch Integer-Division:

VB.NET-Quellcode

Dim Average = (CInt(Pixel.R) + Pixel.G + Pixel.B) \ 3

Problem mit Ascii Art Generator

Problem mit Ascii Art Generator

VB.NET-Quellcode

VB.NET-Quellcode

Niko Ortner schrieb:

VB.NET-Quellcode

VB.NET-Quellcode

Ähnliche Themen

5 Benutzer haben hier geschrieben