Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Rundungsfehler
Autor: pp
Datum: 25.11.03 10:23
Hallo vbarchiv, Hallo Leute, bestimmt wurde das schon haeufiger gefragt, leider hab ich dazu nichts gefunden... z.B. folgende Operation Int(10 * 0.7) liefert 6 :-@ Bem.: 7 - (10 * 0.7) liefert 4,440892E-16 Gibt es eine Moeglichkeit diese Rundungsfehler zu umgehen? Bisher rechne ich die Nachkommastellen in eine Long-Zahl um, da bin ich mir wenigstens sicher dass keine unerwarteten Ergebnisse auftreten! Bem.: Wenn moeglich eine Loesung ohne Round() schoenen Gruss und Danke, pp

Rundungsfehler	873	pp	25.11.03 10:23
Re: Rundungsfehler	354	Dieter	25.11.03 12:51
Re: Rundungsfehler	380	pp	25.11.03 15:14
Re: Rundungsfehler	372	Danzi	25.11.03 16:23
Re: Rundungsfehler	369	pp	25.11.03 23:41

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen