vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
SEPA-Dateien erstellen inkl. IBAN-, BLZ-/Kontonummernprüfung  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2025
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Fortgeschrittene
Single - Ungenauigkeit 
Autor: Arne979
Datum: 29.11.06 16:53

Hallo zusammen,

ich habe in VB.NET (VB 2005 Express Edition) ein interessantes Phänomen mit dem Datentyp "Single" entdeckt und kann es mir nicht erklären. Vielleicht könnt ihr mir ja weiter helfen.

Programm:
	Dim i As Single
 
	For i = 0 To 1.01 Step 0.1
		Console.WriteLine("  i={0}", CStr(i))
	Next i
Konsolen-Ausgabe:
	i=0,0
	i=0,1
	i=0,2
	i=0,3
	i=0,4
	i=0,5
	i=0,6
	i=0,7
	i=0,8000001
	i=0,9000001
	i=1
Überwachung von "i" gibt folgende Werte:
	1.  Schleifendurchlauf:	0.0
	2.  Schleifendurchlauf:	0.1
	3.  Schleifendurchlauf:	0.2
	4.  Schleifendurchlauf:	0.3
	5.  Schleifendurchlauf:	0.4
	6.  Schleifendurchlauf:	0.5
	7.  Schleifendurchlauf:	0.6
	8.  Schleifendurchlauf:	0.700000048
	9.  Schleifendurchlauf:	0.8000001
	10. Schleifendurchlauf:	0.9000001
	11. Schleifendurchlauf:	1.00000012
Offensichtlich tritt ab dem 7. Schleifendurchlauf eine Ungenauigkeit ein. Wenn ich den Datentyp von "Single" in "Double" ändere, tritt diese Ungenauigkeit nicht ein.

Es gibt mir ein sehr ungutes Gefühl bei der Verwendung von "Single". An Fehlersuche in einem etwas umfangreicherem Programm mit dieser Ungenauigkeit als Ursache möchte ich gar nicht denken!!

Kann sich jemand von euch die Ursache für diese Ungenauigkeit erklären?

Vielen Dank im voraus!!

Gruß, Arne
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Single - Ungenauigkeit897Arne97929.11.06 16:53
Re: Single - Ungenauigkeit760mm78pr29.11.06 18:24
Re: oT542Mika29.11.06 18:53
Re: Single - Ungenauigkeit592Moderatorralf_oop29.11.06 19:24

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
 
   

Copyright ©2000-2025 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel