precision

2熱

3答えて

現在、私は、Cでいくつかの2Dジオメトリを実行しています。これらの行にはすべての種類の傾斜があります：0.001〜1000（例では、わかりません）。私は現在まで浮動小数点数を使用していましたが、値が非常に小さいかどうか心配する必要はありませんでした（浮動小数点数は1e-3として1e-3を丸めなしで格納する）か、 1e3として保存されます）、どちらの場合でも適切な場合は精度がほとんど損なわれません

0熱

1答えて

パンダデータフレームの表示精度

私は結果をLaTeXに出力するためにパンダを使用しています。私は現在、次のように精度（印刷する小数）を設定しています。 import pandas as pd df = pd.DataFrame({'a':[1234.56, 0.01, 1234.56],'b':[1234.56, 0.01, 1234.56]}) pd.set_option('display.float_format',

0熱

1答えて

MatlabのRREF（）関数の精度誤差は

は、私の質問は簡単なものかもしれないが、私は私の質問のための論理的な説明を考えることができませんでした：私が使用 rref(hilb(8)), rref(hilb(9)), rref(hilb(10)), rref(hilb(11)) それは私に期待した結果、つまり単位行列を私に与えます。それは rref(hilb(12)) になると予想されるようにしかし、それは、正則行列を与えるもの

2熱

4答えて

正しい小数の結果を得るには

分数ベースで整数の重複表現を検索するプログラムを作成しようとしています。したがって、私はこのようなことをしなければならない： 1.1**7 これは1.9487171に等しい。しかし、pythonはその結果をfloatとして自動的に表しますが、与えられた値はexactです。これは私が必要とするもので、浮動小数点を丸めるのと同じではありません。また、小数点以下の桁数を指定できるようにする必要があり

0熱

1答えて

ruby on rails：丸め変数

私はプログラミングの背景が非常に少ない高校の先生で、Ruby on Railsを使用する「Assistments」というウェブサイトで物理問題を解決しようとしています。私はランダムに生成された変数を丸め、 "％.2f"を使用して問題の100分の1に表示する方法を知っていますが、物理式でこれらの変数を使用すると、コンピュータは丸められた形式を使用せず、私が欲しくない生の価値に。例えば、のような、別の

1熱

1答えて

HBaseのBytes.toBytes（）が私のケースで検索した最後の行を返すことができないのはなぜですか？

私はStumber = "AAAA00000"を入力した場合、 "AAAA000000"〜 "AAAA000008"という結果になり、なぜ "AAAA000009"が含まれていないのかを調べるためにBytes.toBytes（）を使用します。 for (String stumber : stumbersArr) { byte[] startRow = Bytes.toBytes(stum

0熱

1答えて

パーセントオペレータおよび浮動小数点

値Iは、コード System.out.println(12%5) を実行すると、それはこれをしようとした場合には、必ず、必ず、2を出力します。しかし： System.out.println(2%0.1) それは0.0999999999999999を出力します。私は％演算子を使用して、指定された間隔まで数値を丸めますが、間隔が10進数の場合、常にこのように不具合があります。どのような選択肢が

10熱

1答えて

Kerasで精度とリコールを計算する方法

Keras 2.02（Tensorflowバックエンドを使用）で複数クラスの分類子を構築していますが、Kerasで精度とリコールを計算する方法がわかりません。私を助けてください。

0熱

3答えて

大きな負数の指数関数

Pythonでnp.exp（-28000）などの数値をどのように計算しますか？答えは約5E-12161です。私は、倍精度浮動小数点形式のため、私は数を計算することができると言われてきました> 1e-2048

2熱

1答えて

精度の損失

"123.546123"に等しいダブルストリングがあり、atofでダブルに変換すると、123.546しか得られません。これを修正するにはどうすればよいですか？デフォルトでは6の精度で #include <iostream> int main(){ std::string a = "123.546123"; double b = atof(a.c_str());