Ich habe ziemliche Probleme mit runden von Double-Werten.
Allgemein ist die Formel folgende y = Int( x * ( 10 ^ Nk ) + 0.5 ) / ( 10 ^ Nk ). Wenn x = 0.015 und Nk = 2, dann kommt y = 0.01 statt y = 0.02 heraus.
Mit Extended würde ich diesen Problemfall lösen, bin aber immer noch
skeptisch, ob es unter den Extended-Typen ganz andere Problemfälle gibt!
Kann mir jemand eine eleganten Lösungsansatz (am liebsten mit Double-Felder) verraten? Apropos: Kennt jemand den internen Aufbau von Double-Feldern und kann diesen mir beschreiben?
Allgemein ist die Formel folgende y = Int( x * ( 10 ^ Nk ) + 0.5 ) / ( 10 ^ Nk ). Wenn x = 0.015 und Nk = 2, dann kommt y = 0.01 statt y = 0.02 heraus.
Mit Extended würde ich diesen Problemfall lösen, bin aber immer noch
skeptisch, ob es unter den Extended-Typen ganz andere Problemfälle gibt!
Kann mir jemand eine eleganten Lösungsansatz (am liebsten mit Double-Felder) verraten? Apropos: Kennt jemand den internen Aufbau von Double-Feldern und kann diesen mir beschreiben?
Comment