Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: VB rechnet FALSCH
Autor: Wöllmi
Datum: 21.04.03 13:11
Hi, VB rechnet nicht falsch! Das Problem ist der verwendete Datentyp. Verwendet man Double, so rechnet VB auch mit Double. Float-Zahlen (Double, Gleitkommazahlen) lassen sich nunmal nur bzgl. der Bildungsvorschrift (IEEE754) genau "einstellen" bzw. lassen nur begrenzt (bestimmt) genaue Ergebnisse bei Operationen zu. Daher sind z.B. auch Identitätsvergleiche von Float -(Gleitkomma-)Zahlen immer problematisch. Rechnet man mit Float (Double = Float), dann muß dies berücksichtigt werden! Bsp. Versuche mal "0,1" als Float "&h3DCCCCCC" darzustellen und diesen Wert dann wieder umzuwandeln. (IEEE754) (2#00111101110011001100110011001100) Du wirst sehen, ohne Genauigkeitsangabe geht dies nicht! Ergo wisse was man tut und es geht auch sehr genau! Tschaui Woellmi

VB rechnet FALSCH	1.628	Meister Phantom	21.04.03 10:40
Re: VB rechnet FALSCH	1.267	Andi W	21.04.03 11:23
Re: VB rechnet FALSCH	1.505	Wöllmi	21.04.03 13:11
Re: VB rechnet FALSCH	1.270	Andi W	21.04.03 13:31
Re: VB rechnet FALSCH	1.365	Martoeng	21.04.03 14:36
Re: VB rechnet FALSCH	1.260	Andi W	21.04.03 15:42
Re: VB rechnet FALSCH	127	Verzweifelter	21.04.03 14:44
Re: VB rechnet FALSCH	1.435	Wöllmi	21.04.03 23:14
Re: VB rechnet FALSCH	1.259	Andi W	22.04.03 08:07
Re: VB rechnet FALSCH	1.250	Meister Phantom	22.04.03 09:09
Re: VB rechnet FALSCH	1.285	Wöllmi	22.04.03 18:47

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen