vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
 Blitzschnelles Erstellen von grafischen Diagrammen!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Fortgeschrittene
Ungewöhnliches Phänomen mit Double Datentypen 
Autor: WaldiMaywood
Datum: 01.09.04 13:56
Hallo zusammen,

Hab da ein "kleines" Problem, welches mir etwas "spanisch" vorkommt:

Mal angenommen folgende einfache Berechnung mit Double-Datentypen: 
        Dim d1, d2, d3, dRes As Double 
        d1 = 123.56
        d2 = 34.65
        d3 = 88.91
        dRes = ((d1 - d3) - d2) '// Falsch
        '// dRes = ((d1 - d2) - d3) '// Richtig
        Debug.WriteLine(dRes.ToString)
Eigentlich sollte das Erg. 0(.00) sein, aber stattdessen kommt 0.0000000000000071054273576010019 raus. ??

Jmd ne Idee, warum das so ist? Danke. Hab es schon mit Literalzeichen probiert, aber das half auch nicht.

(Vielleicht sehe ich ja nur i.M. den Wald vor lauter Bäumen nicht )

Steve
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Ungewöhnliches Phänomen mit Double Datentypen1.314WaldiMaywood01.09.04 13:56
Re: Ungewöhnliches Phänomen mit Double Datentypen627ModeratorDaveS01.09.04 14:16
Re: Ungewöhnliches Phänomen mit Double Datentypen604WaldiMaywood01.09.04 15:56
Re: Ungewöhnliches Phänomen mit Double Datentypen608Moderatorralf_oop01.09.04 16:40
Re: Ungewöhnliches Phänomen mit Double Datentypen632WaldiMaywood02.09.04 16:22
Re: Ungewöhnliches Phänomen mit Double Datentypen638Moderatorralf_oop02.09.04 18:37

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
  
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel