In VB 2005 stellen Variablen des Datentyps "Double" die "ToString"-Methode zur Verfügung, durch die der aktuelle Variableninhalt in einen String umgewandelt werden kann. Verwendet man die ToString-Metode ohne Formatanweisung, wird automatisch auf die interne Standardeinstellung zurückgegriffen - und durch die wird ein DOUBLE-Wert auf 15 Stellen Genauigkeit angegeben. Es ist deshalb möglich, dass beim Vergleich von 2 Double-Variablen a, b der numerische Vergleichs-Ausdruck a = b 'false' ergibt, während der String-Vergleich a.ToString = b.ToString 'true'
liefert. Will man bei beiden Vergleichen ein konsistentes Ergebnis erzielen, ist eine explizite Formatanweisung erforderlich, die die Genauigkeit der Stringdarstellung auf 17 Stellen erhöht: a.ToString("g17") = b.ToString("g17") Selbstverständlich können auch beliebige andere benutzerdefinierte Formate verwendet werden, je nach Bedarf. (Prinzipiell sollte man allerdings Double-Variablen nicht direkt auf Identität überprüfen, sondern stets einen Vergleich der Variablen-Differenz durchführen - unter Verwendung eines ausprägungs-abhängigen Epsilon-Schwellenwertes.) Dieser Tipp wurde bereits 11.642 mal aufgerufen.
Anzeige
Diesen und auch alle anderen Tipps & Tricks finden Sie auch auf unserer aktuellen vb@rchiv Ein absolutes Muss - Geballtes Wissen aus mehr als 8 Jahren vb@rchiv! - nahezu alle Tipps & Tricks und Workshops mit Beispielprojekten - Symbol-Galerie mit mehr als 3.200 Icons im modernen Look Weitere Infos - 4 Entwickler-Vollversionen (u.a. sevFTP für .NET), Online-Update-Funktion u.v.m. |
Neu! sevCommand 4.0 ![]() Professionelle Schaltflächen im modernen Design! Mit nur wenigen Mausklicks statten auch Sie Ihre Anwendungen ab sofort mit grafischen Schaltflächen im modernen Look & Feel aus (WinXP, Office, Vista oder auch Windows 8), inkl. große Symbolbibliothek. Tipp des Monats Ralf Ehlert Aufrufende EXE aus DLL heraus ermitteln und beenden Mit diesem Code lässt sich aus der eigenen DLL heraus ermitteln, von welchen Anwendungen die eigenene DLL aktuell geladen und genutzt wird. TOP Entwickler-Paket ![]() TOP-Preis!! Mit der Developer CD erhalten Sie insgesamt 24 Entwickler- komponenten und Windows-DLLs. Die Einzelkomponenten haben einen Gesamtwert von 1866.50 EUR... |
||||||||||||||||
|
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein. |
|||||||||||||||||


Formatierung bei der Double.ToString-Methode


