Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: VB.net rechnet falsch?
Autor: DaveS (Moderator)
Datum: 26.06.12 09:22
Anhang:  cdecminus.jpg (278k)
Es passiert auch mit VB6 wenn man die Variablen entsprechend deklariert. Werte mit Dezimalstellen, die als binäre Werte deklariert sind (Single, Double) können nicht in vielen Fällen die Werte ganz genau darstellen. Das liegt in der Natur der Sache und ist bei jeder Sprache (die solche Werte anbietet) und mit sämtlicher Hardware der Fall. Du solltest dich daran gewöhnen Werte richtig zu deklarieren und umzuwandeln. Außerdem sollte man wissen was die Standardwerte sind bei Variablen und automatischen Umwandlungen. Du kannst deine Konstanten übrigens auch als zB Dezimal deklarieren, um manche Fehler zu vermeiden: CDec(81.77) - 0.01D. Komischerweise liefert dein Ausdruck aber genau 81,76 (siehe Bild). ________ Alle Angaben ohne Gewähr. Keine Haftung für Vorschläge, Tipps oder sonstige Hilfe, falls es schiefgeht, nur Zeit verschwendet oder man sonst nicht zufrieden ist

VB.net rechnet falsch?	1.788	Superuse	25.06.12 17:36
Re: VB.net rechnet falsch?	1.287	FZelle	25.06.12 17:55
Re: VB.net rechnet falsch?	1.122	Franki	26.06.12 03:17
Re: VB.net rechnet falsch?	1.175	Superuse	26.06.12 06:28
Re: VB.net rechnet falsch?	1.165	DaveS	26.06.12 09:22
Re: VB.net rechnet falsch?	1.108	Manfred X	26.06.12 13:48

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen