floating-point

6熱

3答えて

浮動小数点数に対していくつかの演算が実行されているプログラムを書いています。私はプログラムをデバッグした後、特定のテストケースについて、variable equals -2.38418579e-07の値を知りました。今私は小数点以下2桁に設定されたcoutの精度があります。だから私はそれを印刷すると、それを-0.00として印刷します。しかし、出力を-0.00ではなく0.00にしたいと思います。私

5熱

1答えて

カジュアルな1回の計算で `float`対` double`ですか？

私は浮動小数点を必要とするもののカジュアルな使用がfloatタイプ（C/C++）を使用すると宣言されているコードを書く人もいます。これは、宇宙が重要な行列ではなく、SIMDなどのものにもっと適合させようとするものではありません。値をパーセントでスケーリングする、または数量間で比率を求めることはほとんどありません。私はいつもdoubleを使用していましたが、floatはスペースが本当に重要だったと

8熱

1答えて

相補誤差関数erfcf（）のベクトル化可能な実装

相補誤差関数erfcは、標準正規分布に密接に関連する特別な関数です。この分布の「尾」を考慮する必要がある統計および自然科学（例えば、拡散問題）において頻繁に使用され、誤差関数erfの使用は適切ではない。補数誤差関数は、ISO C99標準演算ライブラリで、関数erfcf,erfc、およびerfclとして利用可能になりました。その後、ISO C++にも採用されました。したがって、ソースコードは、例え

6熱

1答えて

安定した標準ライブラリのみを使用してf16からf32をどのようにデコードできますか？

保存されたハーフ・フロート（16ビット）を標準の32ビット・フロートに変換する必要があります。私は現在以下のコードを使用していますが、libcに依存しています。私はstdだけを使用したいと思うし、それは安定した錆で動作するはずです。 #[inline] fn decode_f16(half: u16) -> f32 { let exp: u16 = half >> 10 & 0x1f;

5熱

2答えて

なぜPHPの浮動小数点数（0）が符号付きで表示されていますか？</p> <pre><code>$x = 0; echo $x; </code></pre> <p>それは<code>0</code>を表示していました：PHPで

は、変数を作成し、それが0に値を設定することができます。 1は-1を掛けたい場合： $x = -1 * $x; echo $x; 我々はまだ0を参照してください。 $xがfloatであるなら：-0： $x = 0; $x = (float)$x; $x = -1 * $x; echo $x; 我々は出力を得るでしょう。なぜですか？基になる型に関係なく、常に符号なしで表示されるべき

0熱

2答えて

はMATLAB内の2つの等しい浮動小数点数を減算すると、我々は2つの異なる方法で（A + B）を計算したいと0

等しくない場合、それは（A + B）*（ありますここでA + B） + 2 AB + B 、a = 1.4とb = -2.7とします。 a = 1.4; b = -2.7; format long r = (a + b) * (a + b) r2 = a^2 + 2*a*b + b^2 abs_diff = abs(r - r2) 私は r = 1.690000000000

5熱

1答えて

なぜ1e400はintではありませんか？

サイエンティフィック表記の数字は常にfloatと読み込まれますが、 '1e400'のような文字列をint（floatでは大きすぎます）に変換するにはどうすればよいですか？私が知っている >>>int('1e400') ValueError: invalid literal for int() with base 10: '1e400' >>>int(float('1e400')) Overf

1熱

2答えて

ゼロとの浮動小数点の比較

私はGEV分布の分位数を計算する関数を書いています。この質問に関連する態様は、パラメータ（形状パラメータまたはカッパ）の一方がゼロこれは一般にアドレス指定されるプログラムである場合、機能の異なる形態が必要とされることです次のように（：qgevとlmomcoが似ている:: quagevこれはEVDからの抜粋です）：（編集：lmomcoのバージョン2.2.2、この問題の識別問題に対処しています）

8熱

2答えて

浮遊数の配列がジャスミンの別の配列に近いことを期待

戻り値の配列に期待される出力を含む配列と同じ要素が含まれているかどうかを調べるために、Javascript関数をテストします。 expect(myArray).toEqual(expectedArray); myArrayとexpectedArrayに整数のみが含まれていても、浮動小数点精度の誤差が原因で少なくとも1つの浮動小数点数が存在する場合は失敗します。 toBeCloseToは配列で機

5熱

1答えて

ast.Numをdecimalに変換します。精度はPython

私は現在、単純な算術式を解析するためのパーサを作成しています。これは、数値と変数に対して+ - * /をサポートするためにのみ必要です。例： 100.50*num*discount これは製品の価格を計算するために使用されます。これはPythonで書かれています。私は単純にするためにPython独自のパーサを使用したいと思います。現在、それがうまく機能... をast.BinOp、ast.A