precision

1熱

1答えて

私はPythonとCassandraのデータを前後に送信しています。私は私のpythonプログラムと私のCassandraテーブルのデータ型に組み込みのfloat型を使用しています。私が数字955.99をpythonからCassandraに送ると、データベースには955.989999と表示されます。私が送信した値を返すためにPythonでクエリを送信すると、今度は955.989990234375に

1熱

3答えて

NumPyは、浮動小数点演算の精度をより低い精度にキャストします。

これは他の（おそらくすべての）言語では間違いありませんが、私はPythonでしかテストしていません。私の質問は次のとおりです：異なる精度の2つの値に対して算術演算を行うとき、なぜNumPyは最高精度のdtypeで結果を返しますか？例えば import numpy as np single = np.array([[1, 2, 3], [4, 5, 6]], np.float32) doub

1熱

3答えて

JavaScriptで20個以上の小数点を表示するにはどうすればいいですか？

私はpiの数字を表示するウェブページを作っています。私はtoFixedメソッドを使ってpi変数を20桁のpiで表示することができましたが、もっと表示できるかどうかは疑問です。小数点以下の桁数は、変数のメモリサイズによって制限されますか？ 20桁以上を表示する方法はありますか？ EDIT：piの値を計算するためにChudnovskyアルゴリズムを使用していることを明確にすべきでした。私はvar変数の

0熱

1答えて

結果の精度はOracle NUMBER

結果の精度は、2つのOracleデフォルト/指定NUMBER列（NUMBERには（p、s）が設定されていません）の演算子になります。同様の場合： create table foo(field1 NUMBER, field2 NUMBER); insert into foo (field1, field2) values (1.1, 3); select field1/field2 as f

0熱

1答えて

精度を最大化する操作の順序

私はこれらの操作に浮動小数点数を使用しています：どちらがより正確ですか？（* b）は/ C または（/ C）* Bの問題は全くそれをしないか、に依存しません状況？もしそうなら、私はどのような場合に選択すべきですか？

2熱

1答えて

2 Matlabの^（ - x）= realmin

Matlabの2 ^（ - x）= realminの最大値xを-log2（realmin）という式で見つけようとしました。結果は1022です。しかし、1023から1074までのxの2 ^（ - x）> 0コードを試してみると、結果は1（真）です。私の理解から、realminは最小の正の浮動小数点数です。だから、-log2（realmin）が2 ^（ - x）> 0のような最大のxを与えない理由は何

2熱

1答えて

numpy.arrayも使用している場合は、Python floatの代わりにnumpy.float64を使用する必要があります。

これまでのところ問題は発生していませんでした。これは純粋に好奇心ではありません。私は通常、このようなフロートの浮上とアレイ定義Pythonで：s上記の場合 import numpy as np s = 1.0 v = np.array([1.0, 2.0, 3.0]) float はあるが、vの要素はタイプnumpy.float64です。は、私は、例えば、代わりにこれを行うことができ

2熱

1答えて

numpyでの高精度計算

numpyでの高精度計算の実行方法は？高精度では、10進で100精度を意味します。

-3熱

1答えて

浮動小数点変数と二重変数データ型の相違点

浮動小数点データ型と倍精度データ型の違いは何ですか？例を説明しますか？最近の競争のプログラミングに関する質問では本当に混乱していますか？

1熱

1答えて

文字列とint形式の浮動小数点の違い。どうして？

ナノ秒で現在の時刻が必要です。文字列"%.9f" % float_timeは、1502872986.6536936 です。あなたは最後に76を見ることができます。 int(float_time*10**9)と同じ時刻を書き込もうとすると、最後には15028729866536936 と96になります。どうして？そして、それはナノフォーマットを得るための正しい方法ですか？ from time imp