Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Re: Berechnung hört auf?!
Autor: Manfred X
Datum: 17.02.11 21:04
Zu Befehl! Man sollte immer x * x bzw. x * x * x gegenüber x^2 bzw. x^3 bevorzugen. x^2 enspricht nämlich Math.Pow(x,2) und das bedeutet, bei allen numerischen VB-Datentypen ("Primitives") wird eine implizite Erweiterungskonvertierung zu Double (bereits bei den Parametern) vorgenommen. Diese Variante ist nicht typspezifisch, deshalb wenig effizient und im Einzelfall fehlerbehaftet. Wenn bei größeren x-Werten ein Überlauf des Datentyps beim Potenzieren droht, kann man explizit in den Datentyp Decimal konvertieren: cdec(x) * cdec(x) Recht große Ganzzahlen können so EXAKT berechnet und dargestellt werden Dim dec As Decimal = _ CDec(Integer.MaxValue) * CDec(Integer.MaxValue) * CDec(Integer.MaxValue) Dim dbl As Double = Integer.MaxValue ^ 3 Im Vergleich beträgt der FEHLER bei Verwendung des Datentyps Double 4.15*10^13

Berechnung hört auf?!	1.344	Aandi	17.02.11 13:57
Re: Berechnung hört auf?!	793	DaveS	17.02.11 13:59
Re: Berechnung hört auf?!	823	Manfred X	17.02.11 21:04
Re: Berechnung hört auf?!	737	keco	17.02.11 21:09
Re: Berechnung hört auf?!	786	Manfred X	17.02.11 21:12
Re: Berechnung hört auf?!	776	DaveS	17.02.11 21:20
Re: Berechnung hört auf?!	941	Preisser	17.02.11 14:12
Re: Berechnung hört auf?!	782	Aandi	17.02.11 14:20
Re: Berechnung hört auf?!	900	Theo_kkv	17.02.11 17:35

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen