vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
TOP-Angebot: 17 bzw. 24 Entwickler-Vollversionen zum unschlagbaren Preis!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   RSS-Feeds  | Newsletter  | Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2019
 
zurück
Rubrik: Variablen/Strings   |   VB-Versionen: VB.NET18.04.07
Formatierung bei der Double.ToString-Methode

Aufhebung des Standardverhaltens der Double.ToString-Formatierung

Autor:   Manfred BohnBewertung:     [ Jetzt bewerten ]Views:  9.310 
ohne HomepageSystem:  WinNT, Win2k, WinXP, Vista, Win7, Win8, Win10kein Beispielprojekt 

In VB 2005 stellen Variablen des Datentyps "Double" die "ToString"-Methode zur Verfügung, durch die der aktuelle Variableninhalt in einen String umgewandelt werden kann.

Verwendet man die ToString-Metode ohne Formatanweisung, wird automatisch auf die interne Standardeinstellung zurückgegriffen - und durch die wird ein DOUBLE-Wert auf 15 Stellen Genauigkeit angegeben.

Es ist deshalb möglich, dass beim Vergleich von 2 Double-Variablen a, b der numerische Vergleichs-Ausdruck a = b 'false' ergibt, während der String-Vergleich a.ToString = b.ToString 'true' liefert.
Der numerische Vergleich bezieht nämlich bis zu 17 Stellen ein.

Will man bei beiden Vergleichen ein konsistentes Ergebnis erzielen, ist eine explizite Formatanweisung erforderlich, die die Genauigkeit der Stringdarstellung auf 17 Stellen erhöht:

a.ToString("g17")  = b.ToString("g17")

Selbstverständlich können auch beliebige andere benutzerdefinierte Formate verwendet werden, je nach Bedarf.

(Prinzipiell sollte man allerdings Double-Variablen nicht direkt auf Identität überprüfen, sondern stets einen Vergleich der Variablen-Differenz durchführen - unter Verwendung eines ausprägungs-abhängigen Epsilon-Schwellenwertes.)
 

Dieser Tipp wurde bereits 9.310 mal aufgerufen.

Voriger Tipp   |   Zufälliger Tipp   |   Nächster Tipp

Über diesen Tipp im Forum diskutieren
Haben Sie Fragen oder Anregungen zu diesem Tipp, können Sie gerne mit anderen darüber in unserem Forum diskutieren.

Neue Diskussion eröffnen

nach obenzurück


Anzeige

Kauftipp Unser Dauerbrenner!Diesen und auch alle anderen Tipps & Tricks finden Sie auch auf unserer aktuellen vb@rchiv  Vol.6

Ein absolutes Muss - Geballtes Wissen aus mehr als 8 Jahren vb@rchiv!
- nahezu alle Tipps & Tricks und Workshops mit Beispielprojekten
- Symbol-Galerie mit mehr als 3.200 Icons im modernen Look
Weitere Infos - 4 Entwickler-Vollversionen (u.a. sevFTP für .NET), Online-Update-Funktion u.v.m.
 
   

Druckansicht Druckansicht Copyright ©2000-2019 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel