floating-accuracy

8熱

1答えて

浮動小数点乗算のキャスティング結果は、浮動小数点変数が最初に変数に保存された場合に異なる結果をもたらしますか？

ここでのコードは単純ですが、私は結果を理解していない： float percent = 0.69f; int firstInt = (int)(percent*100f); float tempFloat = percent*100f; int secondInt = (int)tempFloat; Debug.Log(firstInt + " " + secondInt); はな

0熱

1答えて

PHPが小数を丸めるのを防ぐ

PHPは非常に小さな数値を丸めずに処理できますか？たとえば、exp(-99) + 1/2を計算する場合、phpはこれを0.5と計算します。後で私が与えられた結果を掛けたいと思っているのであれば、これは問題です。 echo exp(-99) + 1/2 // Outputs 0.5

1熱

2答えて

Scilabで出力するときに25桁以上を表示する方法はありますか？

私はScilab 5.5.2で作業しています。formatコマンドを使用するときは、最大25桁の数字を表示できます。何とかこの数字よりも多くを表示する方法はありますか？注：「なぜ私は25桁を超えて表示する必要がありますか？それは実際には問題から外れるはずの長い話です。

2熱

1答えて

0.5（小数）の丸めが正確でないのはなぜですか？

半分、小数で、すなわち0.5、正確なバイナリ表現を有している：私はそれを整数に丸めた場合0.1 それにもかかわらず、私は同じように動作れ、PythonとCで試行0の代わりに1を得ます。例えば。 Pythonコード： >>> a,b,c = 0.49, 0.5, 0.51 >>> [round(x) for x in (a,b,c)] [0, 0, 1] >>> "%.0f %.0f %.0f

0熱

1答えて

Matlabのpolyeigの精度の向上

Matlabのコマンドを使用して、Matlabの2次の多項式固有値問題を解いています。私はシステムが単一の0固有値を持っていることを知っています（これは、各対角要素が同じ行の要素の合計の-1倍なので、ベクトル（1 1 1 ... 1 ）は0の固有値を持つ）。私は得る最小固有値が順1E-4（0固有値していると想定される）であるpolyeigコマンドを使用して、第二の最低がである場合、システムのサイ

1熱

1答えて

逆算の精度と精度

私は書いているCコードのチャンクを最適化しようとしていますが、製品は分割よりも速いことに気付いています。これはよく知られている問題で、どこでもきれいに説明されています。この最適化を念頭に置いて、私は同じ数字を何度も何度も繰り返しているので、その数字の逆数を1回計算してから乗算しようとしました。しかし、私は結果がまったく同じではないことに気づいた。 I'vaは私が話しているの違いが明確である、本当

-1熱

1答えて

浮動小数点の精度を8に下げると、通貨で作業するときに正しい数値が得られますか？

お金を計算する際に浮動小数点数を使用すると、結果が精度が低くなり、結果が等しくない場合、結果が不正確になるリスクがあります。 >>> 234042163/(2**24) 13.949999988079071 >>> (Decimal("234042163")/(Decimal("2")**Decimal("24"))) Decimal('13.949999988079071044921875

1熱

1答えて

整数の整数の整数への対数

整数の対数の上に丸められた値nを整数の基底bにしたいと思います。コード内： result = int(ceil(log(n, b))) 問題は、値が浮動小数点で正確に表現できず、結果を過大評価することがあります。例： log(125, 5) == int(ceil(3.0000000000000004)) == 4 これについてはどうすればよいですか？小さなイプシロンを引くことはそれを他の

1熱

2答えて

10進数の不正確さを解決するために分数を使用する

10進数を2進数で表すことができない場合、コンピュータは正確に表現できる2つの整数の一部として数値を格納しないのはなぜですか？数字がどこかに表示されるたびに、不正確なフロートに変換される可能性があります。さらなる計算に使用されるたびに、分数を含めます。これは基本的に不正確さの問題を解決するはずですが、その天才のすべてではないので、理論には何がありますか？数値0.1を保存し、それをさらに計算

1熱

1答えて

C++で浮動小数点型/ダブル型に0を追加する

0.1 + 0.2のような浮動小数点演算は、内部で使用されている2進浮動小数点のため、丸め誤差0.30000000000000004が発生する可能性があると聞きました。しかし、C++で任意の浮動小数点数に0を追加すると、丸め誤差なしで同じ値が生成されますか？浮動小数点演算がどのように機能するのか、丸め誤差が現れるか分かりません。