vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
NEU! sevCoolbar 3.0 - Professionelle Toolbars im modernen Design!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Allgemeine Diskussionen
Re: Nachkommastellen 
Autor: Dominik S.
Datum: 20.01.04 18:01

Also als ich mal einen Ausflug zu Delphi gemacht habe, hatte ich mal das selbe problem, und zwar lag es daran, dass der Compiler auf "doppelter Genauigkeit bei rechenoperationen" stand.
DA hat er statt 0,9 immer 0,8999999999999999999 genommen. Frag mich ja nicht warum
Aber meines Wissens nach lag es damals daran, dass Delphi bei der doppelten Genauigkeit den Fehler von der CPU bekommen hat, da diese die letzte Stelle grundsätzlich falsch berechnet hat.

Vielleicht hat dieses Phänomen auch mit deinem Fehler etwas zu tun

PS: Mir schwebt da auch noch was von unstetiger Funktion im Zusammenhang mit diesem Fehler im Kopf herum...

Vielleicht hilfts dir ja weiter


"Das Leben ist eine Trag?die f?r die, die f?hlen und eine Kom?die f?r die, die denken." [Jean de la Bruyere]
In diesem Sinne
cu all
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Nachkommastellen618uni20.01.04 15:22
Re: Nachkommastellen439Dominik S.20.01.04 18:01
Re: Nachkommastellen355Mr. Fox20.01.04 19:17

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
 
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel