Sie sind aktuell nicht angemeldet.

Funktionen: Einloggen  |  Neu registrieren  |  Suchen

Integer / single = ???
Autor: Fronk
Datum: 15.10.04 21:29
Ich hab ein seltsames problem, und zwar will ich eine mathematische Berechnung machen [besser gesagt ein par Millionen ] und dafür benutz ich eine schleife : For T = INT To Ttakt Step INT die Ergebnisse der schleife werden in 3D-Arrays gespeichert : data_fluid(Durchlauf, Kammer, CInt(T / INT)) = Cfluid data_textil(Durchlauf, Kammer, CInt(T / INT)) = Ctextil T ist integer und INT ist single um genau zu sein steht T bei mir für die Zeit in ganzen Sekunden und INT [für intervall] kann eingestellt werden zwischen 0,01 Sekunden und 1 Sekunde ! Damit dort aber kein quatsch passiert kann INT nur solche werte annehmen das T / INT ein ganzzahliges Ergebnis annimmt - also kann INT nur 0,01-0,02-0,05-0,1-0,2-0,25-0,5 und 1 sein. Das seltsame ist aber das dies bis runter nach 0,25 super klappt aber ab 0,2 nicht mehr. Ich habs geprüft mit einer messagebox die dann noch nichtmal anspringt , was in meinem Fall doch bedeutet das der Wert T gar nicht erreicht wird : If Durchlauf = 2 And Kammer = 4 And T = 100 Then MessageBox.Show(CStr(T / INT)) ich versteh das nicht ! aber bestimmt jemand anders hier

Integer / single = ???	764	Fronk	15.10.04 21:29
Re: Integer / single = ???	551	ralf_oop	16.10.04 09:40
Re: Integer / single = ???	501	Fronk	18.10.04 12:48
Re: Integer / single = ???	498	FZelle	18.10.04 14:00
Re: Integer / single = ???	475	Fronk	18.10.04 14:38

Sie sind nicht angemeldet! Um auf diesen Beitrag zu antworten oder neue Beiträge schreiben zu können, müssen Sie sich zunächst anmelden. Einloggen  |  Neu registrieren

Funktionen:  Zum Thema  |  Gesamtübersicht

Suchen