vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
 vb@rchiv Offline-Reader - exklusiv auf der vb@rchiv CD Vol.4  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Allgemeine Diskussionen
Re: Nachkommastellen 
Autor: Mr. Fox
Datum: 20.01.04 19:17
Hi!

Dieser Fehler ist darauf zurückzuführen, wie Double-Werte gespeichert werden:
1 bit Vorzeichen
11 bit Exponent
52 bit Mantisse

Dabei wird aber die Mantisse zum einen normiert (also mit der 1 vor dem Komma) und außerdem wird die ganze Sache komplett im Binärsystem dargestellt.
Soweit kein Problem, nur im Binärsystem sind selbst Zahlen wie 0,3 periodisch --> zwar hat man dann 52 Stellen aber dass ist ungefähr so, wie wenn man 1/3 (im Dezimalsystem) mit etlichen Nachkommastellen angibt. Es bleibt immer ein Rundungsfehler. Und da alles auf 1 normiert wird, fällt dieser Fehler meist nur bei größeren Zahlen auf.

ciao
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Nachkommastellen618uni20.01.04 15:22
Re: Nachkommastellen438Dominik S.20.01.04 18:01
Re: Nachkommastellen355Mr. Fox20.01.04 19:17

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
  
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel