vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
SEPA-Dateien erstellen inkl. IBAN-, BLZ-/Kontonummernprüfung  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2024
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

VB.NET - Ein- und Umsteiger
Berechnung ungenau 
Autor: Gerold_69
Datum: 21.06.24 22:55

Hallo

Wechselrichter liefert als Zeit die seriellen Sekunden seit 1.1.1970 (Unixtime).
Diese Zahl dividiert durch 86400 (Anzahl Sekunden/Tag) = Anzahl Tage. Kommaanteil = Uhrzeit.
1719000310 / 86400 in Excel = 19895,83692
1719000310 / 86400 in vb.net = 19895.8379 differiert ab 3. Kommastelle (Differenz 14 Minuten)

Gibt es eine Lösung, dass Vb.net richtig rechnet?

fg
Gerold
Themenbaum einblendenGesamtübersicht  |  Zum Thema  |  Suchen

Re: Berechnung ungenau 
Autor: Kuno60
Datum: 22.06.24 00:47

Hallo,

keine Ahnung wie du rechnest, aber VB.NET rechnet richtig.

Dim wert As Integer = 1719000310
Dim sek As Integer = 86400
Dim ergebnis As Double = z1 / z2
 
'ergibt:
'19895.836921296297
Das Datum kann man auch so berechnen:
Dim datum As String = #1970-1-1#.AddSeconds(1719000310).ToString
 
'ergibt:
'21.06.2024 20:05:10
Themenbaum einblendenGesamtübersicht  |  Zum Thema  |  Suchen

Re: Berechnung ungenau 
Autor: Manfred X
Datum: 22.06.24 12:55

Hallo!

In VB.Net stehen für Gleitkoma-Rechnungen drei Datentypen zur Verfügung.

Dim sng As Single = CSng(1719000310 / 86400)       '19895.8379 
Dim dbl As Double = CDbl(1719000310 / 86400)       '19895.836921296297
 
Dim dec As Decimal = CDec(1719000310) / CDec(86400)
'19895.836921296296296296296296
 
Dim sng2 As Single = sng * 86400   '1.71900045E+09
Dim dbl2 As Double = dbl * 86400   '1719000310
Dim dec2 As Decimal = dec * 86400  '1719000310
Die Genauigkeit des IEEE Datentyps Double reicht aus.

Zeitdifferenzen werden in Net über eine Ganzzahl-Skala (Ticks) abgebildet,
nicht durch Gleitkomma-Division, sondern durch ganzzahlige Division berechnet
(vgl. Hinweis von Kuno60).
Themenbaum einblendenGesamtübersicht  |  Zum Thema  |  Suchen

Re: Berechnung ungenau 
Autor: Gerold_69
Datum: 22.06.24 16:05

Danke für die Informationen!
Themenbaum einblendenGesamtübersicht  |  Zum Thema  |  Suchen

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
 
   

Copyright ©2000-2024 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel