floating-point

9熱

4答えて

Cのfloatタイプの説明では、有効桁数は6であると記載されています。しかし、 float f = 12345.6; 、その後のprintfを使用してそれを印刷（）は、12345.599609を印刷し、12345.6が印刷されません。したがって、「6桁の有効数字」（または「doubleの場合は15」）は浮動小数点型を意味しますか？

5熱

3答えて

浮動小数点数の変換とパフォーマンス

浮動小数点数と整数の間で変換を行う際に発生する可能性のあるエラーについては知っていますが、性能についてはどうですか（精度の問題は無視してください）。（例えばfloat（例えばfloatとdouble）浮動小数点型の異なる点/整数型の組み合わせをフローティングに、すなわち、Iは、演算の種類が異なるオペランドに対してn進演算を行う場合、一般的に、苦しむ、パフォーマンスを行い、 int）？すべてのオペ

5熱

4答えて

doubleで正しく表現できない値

Doubleデータ型では、いくつかの基数10の値を正しく表すことができません。これは、浮動小数点数がどのように実数を表すかによる。つまり、金銭的価値を表すときには、小数点の型を使用してエラーを防ぐ必要があります。私が知りたいのは、標準の.Netフレームワーク（64ビットアーキテクチャの場合は64ビットアーキテクチャの64ビットアーキテクチャの下でDoubleデータ型の下でこのような問題を示す値で

8熱

2答えて

Java用のIEEE754（r）準拠の実装ですか？

は、任意のJavaを省略することにしたすべての機能のサポートを提供するJavaで利用可能な完全準拠IEEE754rの実装（または一般的にはかなり高いレベルの言語を省略したい）がありますトラップスティッキーフラグ監督丸めモード長い/拡張倍精度クワッド精度 DPD（稠密充填小数）誰かが間違って取得する前に明確化：私はJVMが上記のサポートを提供するのではなく、タイプと操作をソフトウェアで実

8熱

2答えて

正確に正当な精度で浮動小数点数を表示する

私はPythonでプログラミングするには若干のnewbです。私は文字列属性rjustを呼び出して、浮動小数点の精度も指定しようとしています。ここでは、コードおよび出力例（0.00点に注意してください右に正当化されていません）です。 print '%s: %s %s \tchange: %.2f' % (Instance1.symbol.ljust(5), Instance1.name.l

5熱

2答えて

浮動小数点値を使用したBash Cスタイルの算術

このbashスクリプトから正しい結果を得るにはどうすればよいですか？ #!/bin/bash echo $((1/2)) 結果として0が表示されます。だから私は成功しなかったが、これらを使用しようとしました： $ echo $((1/2.0)) bash: 1/2.0 : syntax error: invalid arithmetic operator (error token is "

6熱

2答えて

MySQLが何らかの浮動小数点数を科学表記で返しているのはなぜですか？私のような、やや小さくなる傾向にあること、float値のDBテーブルを通して見るPHPスクリプトを書いている

：私には未知の理由のために 0.00052 0.00134 0.00103 0.00149 0.00085 0.00068 0.00077 0.00088 0.00169 0.00063 、いくつかの値は科学的にDBに表示されます以下のような表記： 1.12305e-06 テーブルが浮くように設定されている、私は無駄に、小数として表示する数字を強制的にPHPの関数のすべての方

7熱

3答えて

C++ doubleの有効桁数を計算するにはどうすればよいですか？

Javaで浮動小数点値を扱う場合、toString（）メソッドを呼び出すと、正しい数の浮動小数点有効数字を持つ印刷された値が返されます。しかし、C++では、文字列ストリームを介してfloatを出力すると、5桁以下の数値が丸められます。 C++の浮動小数点数を（想定される）有効数字の正しい数に "きれいに印刷"する方法はありますか？編集：私は誤解されていると思います。私は出力が固定長ではなく動的長

5熱

2答えて

正規表現は浮動小数点数に一致しますが、整数ではありません

浮動小数点数に一致する正規表現を定義するのに問題がありますが、整数を特定することはできません。浮動小数点数に一致する以下の正規表現があります。 (\+|-)?([0-9]+\.?[0-9]*|\.[0-9]+)([eE](\+|-)?[0-9]+)? 上記の式を整数と一致させないように修正するにはどうすればよいですか？ここでが一致しなければならないものの例です。 3.3 .3 5E6

5熱

2答えて

未定義のメソッド ` - 」 "100" のために：文字列

このRubyコード： income = "100" bills = "52" puts income - bills がエラーを投げた： ./to_f.rb:6: undefined method `-' for "100":String (NoMethodError) Rubyは自動変換されません数値に文字列を上の演算操作を実行するときそれら？