vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
 Brandneu! sevEingabe v3.0 - Das Eingabecontrol der Superlative!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Fortgeschrittene Programmierung
Re: double: gleich ist nicht gleich 
Autor: vbtricks
Datum: 18.01.07 09:19
Salut,

beim Rechnen mit Double treten Rundungsfehler auf. Der Rechner kann Zahlen nicht beliebig genau darstellen. Daher musst du mit einer Fehlertoleranz arbeiten. Typisch ist z.B. eine folgende Funktion zum Vergleich von Fließkommazahlen: 
Private Const EPSILON = 0.00000001
 
Private Function Are_Equal(ByVal a As Double, ByVal b As Double) As Boolean
 Are_Equal = Abs(a - b) < EPSILON
End If
D.h. du vergleichst dann deine Double-Zahlen nicht mit dem = Operator, sondern mit der Are_Equal-Funktion.


Stefan

Web: http://www.vbtricks.de.vu/

VBTricks.de.vu. Meine Webseite zu VB und anderen Programmiersprachen. Verschiedene fortgeschrittene OCXe und komplette Projekte sind im Sourcecode verf?gbar.

alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
double: gleich ist nicht gleich691Jan9918.01.07 08:55
Re: double: gleich ist nicht gleich474Bobbel18.01.07 09:07
Re: double: gleich ist nicht gleich461vbtricks18.01.07 09:19

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
  
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel