double

[Andre Kleinen]

hallo zusammen!

stehe irgendwie auf dem schlauch...
also, hab folgendes problem:
<PRE>
double pixel;
pixel=10*1000/3000;
</PRE>
pixel sollte eigentlich 3.3333 bis unendlich enthalten aber, der rundet hier konsequent ab auf 3.0.<br>
double ist doch ein fliesskomma-datentyp und sollte doch eigentlich
auch die nachkomma-stellen korrekt anzeigen!?

hat jemand eine idee, woran das liegen könnte?<br>
vielen Dank schon mal<br>

gruss aus verl<br>
andre

[Daniel Gerens]

Versuchs mal mit

pixel=10*1000/3000f;

Gruss Danie

[Daniel Gerens]

Tschuldigung!!!

Meinte natuerlich:

pixel=10*1000/3000d;

Das f waere bei einem Float richtig!

Danie

[Andre Kleinen]

hallo daniel!

danke, das funktioniert...
aber die 3000 ist in einer variablen
also:
<PRE>
pixel=10*1000/timeOut;
</PRE>

wie bastele ich denn da das d dran?

gruss <br>
andr

[Daniel Gerens]

Hi Andre,

Erst einmal muss die Variable timeout auch vom Typ double sein.
Bei der Wertzuweisung hängst Du einfach schon an der Stelle das d an.

Also:

double pixel;
double timeout;

timeout=3000d;
pixel = 10*1000/timeout;
...

Muesste klappen!

Danie

[Andre Kleinen]

wo hab ich nur meinen kopf...<br>
da lag der hund begraben.<br>
die variable timeOut war vom typ <i>int</i><br>
ich hab das programm etwas verändert und an die<br>
variable nicht mehr gedacht!<br>
das d bei der initialisierung ist dann nicht mehr nötig...

danke daniel!

gruss

andr