vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
 Schützen Sie Ihre Software vor Software-Piraterie - mit sevLock 1.0 DLL!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2024
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Fortgeschrittene
Re: Tostring Nachkommastellen 
Autor: Manfred X
Datum: 21.03.17 21:08
Bei MS SQL entspricht "Real" dem Datentyp Single,
d.h. maximal sieben gültige Ziffern sind zuverlässig verfügbar.
Etwaige weitere nachfolgende Ziffern entsprechen meist nicht mehr genau
dem übergebenen Gleitkomma-Wert.

Ob es sinnvoll ist, technisch bedingte "Überhangziffern", die bei der
Rückrechnung des Dezimalwertes aus der binären Zerlegung entstehen,
in einer Textbox oder einem Grid anzuzeigen (oder bei Berechnungen
einzubeziehen), würde ich bezweifeln.

Abgesehen von der durch den Datentyp vorgegebenen Grenzgenauigkeit
wären bei der Rundung folgende Gesichtspunkte einzubeziehen:

Zunächst ist zu klären, mit welcher Genauigkeit die Durchmesser
(und die anderen rechen-relevanten Größen) bestimmt worden sind.
Auf diese fehlerbehafteten Eingabewerte der Berechnungsformel(n) für die
Umfangsgeschwindigkeit ist das Fehlerfortpflanzungsgesetz anzuwenden.
Daraus ergibt sich die Genauigkeit der gespeicherten Resultat-Werte
= die Anzahl der zuverlässigen signifikanten Stellen (max. 7).
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Tostring Nachkommastellen2.608CAM-Andi21.03.17 16:12
Re: Tostring Nachkommastellen1.963sv0001021.03.17 18:49
Re: Tostring Nachkommastellen1.909Manfred X21.03.17 19:39
Re: Tostring Nachkommastellen1.866CAM-Andi21.03.17 19:44
Re: Tostring Nachkommastellen1.871CAM-Andi21.03.17 19:50
Re: Tostring Nachkommastellen2.043Manfred X21.03.17 20:00
Re: Tostring Nachkommastellen1.866CAM-Andi21.03.17 20:04
Re: Tostring Nachkommastellen1.907Manfred X21.03.17 20:21
Re: Tostring Nachkommastellen1.870CAM-Andi21.03.17 20:32
Re: Tostring Nachkommastellen1.968Manfred X21.03.17 21:08
Re: Tostring Nachkommastellen1.896CAM-Andi21.03.17 21:22
Re: Tostring Nachkommastellen1.920Franki22.03.17 03:43
Re: Tostring Nachkommastellen1.828Manfred X22.03.17 08:16
Re: Tostring Nachkommastellen2.002Franki23.03.17 01:47
Re: Tostring Nachkommastellen1.853Manfred X23.03.17 12:54
Re: Tostring Nachkommastellen1.981CAM-Andi22.03.17 08:30
Re: Tostring Nachkommastellen2.065CAM-Andi22.03.17 09:17
Re: Tostring Nachkommastellen1.859Manfred X22.03.17 09:30
Re: Tostring Nachkommastellen1.898Kuno6022.03.17 17:09

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
  
   

Copyright ©2000-2024 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel