vb@rchiv
VB Classic
VB.NET
ADO.NET
VBA
C#
Schützen Sie Ihre Software vor Software-Piraterie - mit sevLock 1.0 DLL!  
 vb@rchiv Quick-Search: Suche startenErweiterte Suche starten   Impressum  | Datenschutz  | vb@rchiv CD Vol.6  | Shop Copyright ©2000-2026
 
zurück

 Sie sind aktuell nicht angemeldet.Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Visual-Basic Einsteiger
Re: Hex-Conversion 
Autor: VBRunner
Datum: 21.07.06 01:43

Hi,

set1 u. set2 musst du als String-Variable deklarieren, da das Ergebnis der Hex-Funktion vom Typ String ist

tadd und tval dürfen den Gültigkeitsbereich des Long-Datentyps (-2147483647 bis 2147483647) nicht verlassen, da die Variablen sonst als Typ Double interpretiert werden (- erkennbar am Route-Zeichen).

Im Datentyp Long werden Zahlen intern anders abgelegt als nach aussenhin sichtbar, dadurch kommt es u.a. zu Rundungsfehlern und in deinem Fall zum Überlauf.

Kleiner Tipp:
Subtrahiere von der jeweiligen Zahl 2.147.483.647 vor der Hex-Konvertierung, dadurch wird dein Spielraum verdoppelt.
oder:
Splitte die Zahlen so, dass jede Teilzahl max. 9 Stellen aufweist.


Cu,

VBRunner
alle Nachrichten anzeigenGesamtübersicht  |  Zum Thema  |  Suchen

 ThemaViews  AutorDatum
Hex-Conversion857Mastermind_X20.07.06 20:11
Re: Hex-Conversion593VBRunner21.07.06 01:43

Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.

Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  GesamtübersichtSuchen 

nach obenzurück
 
   

Copyright ©2000-2026 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.

Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel