• Guten Start ins Wintersemester 2024/2025

Kurseinheit 2 Was bedeutet Überlauf?

Unser Sponsor SAP 4 Students
Unser Sponsor
Bin zwar fast durch mit KE2, habe aber den "Überlauf" nicht verstanden.
Beispiel 11.1-4 S. 101: Wie ergibt sich für z der Überlaufwert von -1593384960
oder
Beispiel 11.2-3 Seite 104: Wie ergibt sich für die Variable uebergelaufen der Wert 46?

Vielleicht kann ja jemand von euch mal erklärend helfen ....? Ggf. schon mal danke.
 
Um ein leichteres Beispiel zu nennen nehmen wir mal an, das die Zahl 128 vom Typ byte dargestellt werden soll.
Da der Wertebereich nur bis 127 definiert ist, wird angefangen an der unteren Grenze (in diesem Fall -128) weiterzuzählen.
die Rechnung 1*128 hat somit das Ergebnis -128 zur Folge.
129 wird zu -127,
130 wird zu -126
131 wird zu -125
……
383 wird zu 127,
384 wird zu -128,
usw. usw. usw.

Beispiel 11.2-3 ergibt sich dann aus der folgenden Rechnung nach dem o.g. Schema:

=1582-127(1 bis 127) -256-256-256-256-256-129 (-128 bis 0) = 46

Viele Grüße

Daniel
 
esch sagt dem propheten ganz großen dank - sowas hätte man ja auch mal kurz in den Scipt schreiben können, auch in einem weiteren Java-Buch hatte ich nichts gefunden, und in der Praxis habe ich nur über Talend-ETL mit java zu tun
 
Dr Franke Ghostwriter
finde es Schade, dass es im Script nicht beschrieben steht. Habe auch erst recherchieren müssen. Ein, zwei Sätze im Skript hätte ja zur Erklärung gerreicht.... oder den Wert des Überlaufes ganz weg lassen, damit sich keiner den Kopf darüber zerbricht.
 

Weiter lesen

Oben