Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Zahlenprobleme-Ungenauigkeiten
Autor: CS2000
Datum: 07.11.05 20:15
Bin gerade dabei ein kleines Lernprogramm für rationale Zahlen zu schreiben. Ich erzeuge zwei Zahlen nach folgendem Muster: z5 = vz1 * Round(Rnd * 9, 1) z6 = vz2 * Round(Rnd * 20, 1) z5 und z6 habe ich als single dimensioniert.vz1 und vz2 sind zufällige Vorzeichen. ich erhalte beispielsweise z5= -5,6 z6= 3 Das Ergebnis der Addition lautet: z5+z6 = -2,6 Der User des Programms gibt sein Ergebnis in ein textfeld ein und ich erhalte: erg= csgn(Text1.text) Nun kommt das Erstaunliche: ich lasse mir mit Debug.Print drei werte ausgeben: erg = -2,6 z5+z6= -2,6 soweit so gut aber jetzt: erg-(z5+z6) = 4,56789E-07 oder so ähnlich und manchmal geht dann eine Abfrage wie if erg=z5+z6 then richtig in die Hose!!?

Zahlenprobleme-Ungenauigkeiten	717	CS2000	07.11.05 20:15
Re: Zahlenprobleme-Ungenauigkeiten	413	vbtricks	08.11.05 11:50
Re: Zahlenprobleme-Ungenauigkeiten	404	[JoE]	08.11.05 21:45
Re: Zahlenprobleme-Ungenauigkeiten	488	vbtricks	09.11.05 17:10
Re: Zahlenprobleme-Ungenauigkeiten	433	Dirk	09.11.05 10:49

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen