Hi,

ich stehe vor einem kleinem Problem: ich möchte eine Zahl (0-1023). Dort möchte ich 204 subtrahieren und zu 0-1200 umrechnen. Natürlich habe ich dies schon probiert und zwar mit dem Dreisatz:


Der Output bleibt nur im zweistelligen Bereich. Nun denke ich das ich bei der Umrechnung die restlichen Bits verliere, sehe aber nicht warum/wieso...

Es geht um eine AD-Wandlermessung zwischen 1-5V (deshalb wird 204 bzw. 0-1V subtrahiert vom eig. Wert) und diese auf einem Display in den Werten 0-1200 anzeigen. Dazu verwemde ich einen Atmel AVR-ATMEGA.

Woran liegt es... :c

~gfc

RodFromGermany schrieb:

gfcwfzkm schrieb:

Dreisatz

x = (Value - Min) / (Max - Min) * Scale

?
Sehe nicht inwieweit mir das weiterhilft. Meine Rechnung stimmt wenn man sie über den Taschenrechner rechnet. Nur warum errechnet der uC das nicht korrekt?

Nun klappt es, wenn ich double nehme.
Tja, Integer ist wohl einfach zu klein (2Bytes). Habe es mal mit float probiert aber da gings nicht, nur mit double... seltsam, sind doch beide 4 Bytes gross.

Naja, Problem solved

Die Zahl soll nicht negativ sein. Warum also rausnehmen

Bei Microcontrollern weicht man gerne vom C-Standart ab weil man einfach weniger Ressourcen zu verfügung hat.
char: 8bits / 1 byte
int/short: 16bits / 2 byte
long: 32bits / 4 byte
long long: 64 bits

float & double: 64bits

Da ich mit meiner Umrechnung auf bis zur 1'228'800 kommen kann, int jedoch nur 65536 geht hatte ich halt dementsprechend ein Problem
Deshalb verwende ich auf dem Mikrocontroller auch so oft wie möglich uint_fast8_t um noch zusätzlich ein paar Takte rauszuholen sowie auch die Grösse gering zu halten