割り当てと指数表記

によって計算あなたは今までこのような現象を観察しています。割り当てと指数表記

1E-9 * 100 = 0.00000010000000000000001 
1E-9 * 1E+2 = 0.00000010000000000000001

私は計算をこの方法で行う場合でも：

double val = 1E-9; 
0.000000001 
val = val * 100; 
0.00000010000000000000001

私は、WindowsのCALCで同じ計算を計算すると、私は期待される結果が得られます。

1E-9 * 100 = 0,0000001

誰かがについて何かを知っている場合私はこの情報を得ることが非常に喜ばれるでしょう。

2011-11-10 sobena

を参照してください。たぶん、Windowsの電卓は、ちょうど倍を使用していませんか？なぜ彼らは同じ精度を持つべきだと思いますか？ – phg

バイナリコンピュータに10進数を格納しようとした結果（これまで何度も回答があった）、あるいは他の人が間違って取得したときにWindows Calcが正しく取得したという結果である '0.00000010000000000000001'の動作に興味がありますか？？ – mellamokb

指数表記を使用するかどうかは関係ありませんが、浮動小数点の精度に達しているだけです。あなたがより高い精度が必要な場合は、小数例えばを使用：

decimal val = 1E-9; 
0.000000001 
val = val * 100; 
0.0000001

2012-07-26 13:30:40

答えて