Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: VB 6.0 - Rechenfehler mit Variant, Single und Double-Typen
Autor: Manfred X
Datum: 27.10.17 13:50
Hallo! Die VB6-Gleitkomma-Datentypen Single und Double (IEEE) arbeiten mit begrenzter Genauigkeit - auch bei der internen Darstellung. Rechenergebnisse stimmen deshalb häufig nicht exakt mit dem erwarteten Resultat überein. Je (absolut) größer der Zahlen-Wert, desto geringer die Genauigkeit. Du hast die Möglichkeit, abhängig von der Ausprägung des Ergebnisses geeignet zu runden. Double-Werte bieten etwa 14 verwertbare Stellen, d.h. bei einem Wert von 100000 wäre auf etwa 8 Nachkomma-Stellen zu runden. Dim dbl1 As Double, dbl2 As Double, erg As Double Dim erg_str As String   dbl1 = 8.2: dbl2 = 8 erg = dbl1 - dbl2   erg_str = Format(erg, "0.#############")

VB 6.0 - Rechenfehler mit Variant, Single und Double-Typen	1.821	Marten	27.10.17 01:24
Re: VB 6.0 - Rechenfehler mit Variant, Single und Double-Typ...	749	Zardoz	27.10.17 13:40
Re: VB 6.0 - Rechenfehler mit Variant, Single und Double-Typ...	838	Manfred X	27.10.17 13:54
Re: VB 6.0 - Rechenfehler mit Variant, Single und Double-Typ...	732	Manfred X	27.10.17 13:50
Re: VB 6.0 - Rechenfehler ... Danke für die Hilfe	745	Marten	29.10.17 03:45

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen