Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: VB rechnet ungenau
Autor: ralf_oop (Moderator)
Datum: 19.09.04 12:37
Das liegt daran, das hier VB mit Fließkomma-Variablen rechnet. Und bei diesen können solche "krumme" Werte rauskommen. Hier könnte man evtl. folgendes machen: Dim Zahl1 As Variant, Zahl2 As Variant, Ergebnis As Variant Zahl1 = 123.12345 Zahl2 = 123.0 Zahl1 = CDec(Zahl1) Zahl2 = CDec(Zahl2) Ergebnis = CDec(Zahl1 - Zahl2) MsgBox Ergebnis Mit CDec erzwingst du den Datentyp "Decimal" und dieser rechnet auf 28 Nachkommastellen genau. Leider bekommt man diesen bei VB6 nur über Variant->CDec. In VB.NET ist es ein eigenständiger Typ (da brauchst du kein CDec) Ralf

VB rechnet ungenau	2.065	TobiasT	19.09.04 09:39
Re: VB rechnet ungenau	1.819	ralf_oop	19.09.04 12:37
Nein -	1.627	wurlitzer	19.09.04 16:33
Re: Nein -	1.589	ralf_oop	19.09.04 17:06
Re: Nein -	1.572	TobiasT	19.09.04 20:33
Re: Nein -	1.546	Killerkeule	20.09.04 12:49
Re: Nein -	1.530	ralf_oop	21.09.04 09:15
Re: Nein -	1.517	TobiasT	21.09.04 14:33
Re: Nein -	1.612	ralf_oop	21.09.04 14:39
Re: Nein -	1.557	white57	22.09.04 15:39

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen