Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Berechnung ergibt "falsches" Ergebnis
Autor: Nesti
Datum: 14.09.09 21:55
Hallo, ich habe hier ein komisches Phänomen, das ich mir nicht erklären kann. Ich vermute mal, es wird ein kleines Detail sein, was ich wieder mal nicht kenne. Aber vielleicht kanns mir ja jemand erklären. Folgende simple Rechnung (das Ergebnis soll vom Typ Double sein): (96.0 + 115.2) / 96.0 Soll: 2.2 Ist: 2.1999999997 (oder so ähnlich, aber laut Debugger nicht exakt 2.2) Wenn ich die Formel allerdings ändere in: 1 + 115.2 / 96.0 oder 96.0 / 96.0 + 115.2 / 96.0 Dann errechnet VB exakt 2.2 ?!? Es scheint, als hätte die Klammer ungewollte Nebeneffekte. Ich habe auch schon versucht, die Zahlenwerte einzeln als Double zu deklarieren und dann nur mit den Variablen zu rechnen, was dasselbe Verhalten zeigt. Woran liegt das? Danke und Gruß, Nesti

Berechnung ergibt "falsches" Ergebnis	999	Nesti	14.09.09 21:55
Re: Berechnung ergibt "falsches" Ergebnis	689	GPM	14.09.09 23:55

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen