|
| |
ADO.NET / Datenbanken| Arithmetischer Überlauffehler beim Konvertieren des Ausdrucks in den Datentyp in | |  | | Autor: Bringtnix | | Datum: 25.04.12 20:42 |
| Hallo,
ich habe in meiner DB-Tabelle unter anderem zwei Spalten vom Typ int. In der ersten Spalte stehen
Beträge in Cent (Umsatz) und in der zweiten Spalte Sekunden (Öffnungszeit).
Nun möchte ich gerne den durchschnittlichen Umsatz pro Stunde/Tag/Woche/Monat/Jahr berechnen.
Die Berechnung soll grundsätzlich erstmal so erfolgen:
Stundenumsatz = Umsatz / (Öffnungszeit / 3600)
Tagesumsatz = Umsatz / (Öffnungszeit / 86400)
Wochenumsatz = Umsatz / (Öffnungszeit / 604800)
Nun habe ich gemerkt, daß bei sehr großer Divisor-Konstante (z.B. 604800) der spätere Divisor (Ergebnis der Klammer) sehr klein wird und das Ergebnis erhebliche Rundungsdifferenzen aufweist.
Daraus folgte dann diese Idee:
Wochenumsatz = (Umsatz * 100) / (Öffnungszeit / 6048)
Hier eine SQL-Anweisung für die Berechnung des Monatsumsatzes:
SELECT DATEPART(year, colDatum), DATEPART(isowk, colDatum),
(SUM(Einwurf) * 1000) / (SUM(Einschaltzeit) / 2592) FROM tabTabelle
WHERE colDatum BETWEEN '05.04.2012 00:00:00' AND '24.04.2012 23:59:59'
GROUP BY DATEPART(year, colDatum), DATEPART(isowk, colDatum) order by 1 asc, 2
Dabei passiert dann ein Laufzeitfehler:
Arithmetischer Überlauffehler beim Konvertieren des Ausdrucks in den Datentyp int
Dazu steht in MSDN:
Ein arithmetischer Überlauf wird durch einen berechneten Spaltenwert verursacht, der die für die Spalte angegebene Größe überschreitet. Wenn dieser Fehler auftritt, wird die Berechnung beendet, und der verbleibende Teil des Ergebnisbereichs wird nicht ausgefüllt.
Arithmetische Überläufe werden häufig von berechneten Spalten verursacht. Angenommen, die Spalten c1, c2 und c3 sind als INTEGER-Datentyp definiert. Und angenommen, c3 wird mit der Formel ([c1] * [c2]) berechnet. Wenn c1 und c2 große Werte (z. B. 9999) enthalten, kann die Berechnung von c3 die für INTEGER zulässige Grenze überschreiten. Die Größenbeschränkung der Datentypen wird von der Datenbankspezifikation bestimmt.
So beheben Sie diesen Fehler:
Überprüfen Sie für jede Spalte, deren Wert durch eine Formel berechnet wird, die Größe der Zielspalte. Erweitern Sie gegebenenfalls die Größe der Zielspalte, oder verringern Sie die für die Quellspalten der Formel zulässigen Werte.
Ich kann mir einfach nicht vorstellen, daß ich die Spalten auf BigInt ändern muß. Das Ergebnis liegt letztlich in einem für int32 zulässigen Wertebereich. Kann man bei der Berechnung etwas konvertieren? Meine Versuche mit CAST waren nicht erfolgreich.
Hat jemand eine Idee wie man das Problem vernünftig lösen kann?
Carsten
------------
Alle Menschen sind klug. Die einen vorher, die anderen nachher. (Voltaire)
| |
 | Sie sind nicht angemeldet!
Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden.
 Einloggen | Neu registrieren |
 |
|
sevGraph (VB/VBA) 
Grafische Auswertungen
Präsentieren Sie Ihre Daten mit wenig Aufwand in grafischer Form. sevGraph unterstützt hierbei Balken-, Linien- und Stapel-Diagramme (Stacked Bars), sowie 2D- und 3D-Tortendiagramme und arbeitet vollständig datenbankunabhängig! Weitere InfosTipp des Monats Access-Tools Vol.1 
Über 400 MByte Inhalt
Mehr als 250 Access-Beispiele, 25 Add-Ins und ActiveX-Komponenten, 16 VB-Projekt inkl. Source, mehr als 320 Tipps & Tricks für Access und VB
Nur 24,95 EURWeitere Infos
|
| |
|
Copyright ©2000-2024 vb@rchiv Dieter Otter
Alle Rechte vorbehalten.
Microsoft, Windows und Visual Basic sind entweder eingetragene Marken oder Marken der Microsoft Corporation in den USA und/oder anderen Ländern. Weitere auf dieser Homepage aufgeführten Produkt- und Firmennamen können geschützte Marken ihrer jeweiligen Inhaber sein.
Diese Seiten wurden optimiert für eine Bildschirmauflösung von mind. 1280x1024 Pixel
|
|
Mai 2024
Sie sind aktuell nicht angemeldet.
