vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
SEPA-Dateien erstellen inkl. IBAN-, BLZ-/Kontonummernprüfung  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2024
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Fortgeschrittene
Re: Tostring Nachkommastellen 
Autor: Manfred X
Datum: 21.03.17 19:39

Hallo!

Schau Dir den Datentyp Single genauer an.
Das ist eine 4-Byte-Gleitkommavariable, die nach dem IEEE-Format intern
in Mantisse, Exponent und Vorzeichenkennung gegliedert ist.
Im Zehnersystem ausgedrückt, gibt es nur eine Genauigkeit von etwa sieben
bis acht Ziffern (Vor- und Nachkommastellen zusammen!).
Alternativ kannst Du für Gleitkomma-Zahlen die Typen Double oder Decimal verwenden.
Beide bieten höhere Genauigkeit, wobei Double eine hohe Wertespannweite bei
ca. 14 Stellen Genauigkeit /Vor- und Nachkmma) bietet, während Decimal bei
geringer Wertespannweite und niedriger Rechengeschwindigkeit eine exakte
Darstellung von ca. 28 Stellen bietet.

Das IEEE-Format "taktet" intern die Darstellungsgenauigkeit, abhängig von der
absoluten Ausprägung des enthaltenen Zahlenwertes: je größer, desto weniger genau.
Bei Wertvergleichen muß deshalb stets eine geeignete Differenz eingeführt werden,
innerhalb der zwei Zahlenwerte noch als "gleich" gelten.

Beitrag wurde zuletzt am 21.03.17 um 19:50:47 editiert.
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Tostring Nachkommastellen2.609CAM-Andi21.03.17 16:12
Re: Tostring Nachkommastellen1.964sv0001021.03.17 18:49
Re: Tostring Nachkommastellen1.911Manfred X21.03.17 19:39
Re: Tostring Nachkommastellen1.867CAM-Andi21.03.17 19:44
Re: Tostring Nachkommastellen1.872CAM-Andi21.03.17 19:50
Re: Tostring Nachkommastellen2.044Manfred X21.03.17 20:00
Re: Tostring Nachkommastellen1.867CAM-Andi21.03.17 20:04
Re: Tostring Nachkommastellen1.908Manfred X21.03.17 20:21
Re: Tostring Nachkommastellen1.872CAM-Andi21.03.17 20:32
Re: Tostring Nachkommastellen1.969Manfred X21.03.17 21:08
Re: Tostring Nachkommastellen1.897CAM-Andi21.03.17 21:22
Re: Tostring Nachkommastellen1.921Franki22.03.17 03:43
Re: Tostring Nachkommastellen1.829Manfred X22.03.17 08:16
Re: Tostring Nachkommastellen2.003Franki23.03.17 01:47
Re: Tostring Nachkommastellen1.854Manfred X23.03.17 12:54
Re: Tostring Nachkommastellen1.982CAM-Andi22.03.17 08:30
Re: Tostring Nachkommastellen2.066CAM-Andi22.03.17 09:17
Re: Tostring Nachkommastellen1.861Manfred X22.03.17 09:30
Re: Tostring Nachkommastellen1.899Kuno6022.03.17 17:09

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
 
   

Copyright ©2000-2024 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel