floating-point

6熱

3答えて

現在、Steve McConnellによるコード完成、特に浮動小数点数のページ295を読み込んでいます。 iは、次のコードを実行する場合： double nominal = 1.0; double sum = 0.0; for (int i = 0; i < 10; i++) { sum += 0.1; Console.Write

2熱

1答えて

Fortranの実数リテラル式の後置 'd + 0'

以下のM1、M2、M4への代入に後接数字「d + 0」が含まれていることを知っていますか？この情報を見つける可能性は非常に高いですか？ subroutine plot(t, x, p, q, nga, nt, wron, & ngq, gq, ngaq1, ngaq2, gaq, rwh, iwh) implicit none integer*4 ng

4熱

5答えて

畳み込みフィルタ - Float Precision C Vs Java

私は画像操作ルーチンのライブラリをJavaからCに移植しています。結果を比較すると、少しの違いがあります。これらの違いが異なる言語の浮動小数点値の扱いにあるのは合理的ですか、それとも私はまだやるべきことがありますか？このルーチンは、3 x 3カーネルの畳み込みで、ピクセルの線形配列で表されるビットマップ、幅と深さで動作します。私の質問に答えるためにこのコードを正確に理解する必要はありません。参考

6熱

2答えて

文字列の配列を浮動小数点数の配列に変換する

ファイルから数値データを取得するためのアプリケーションを作成しています。しかし、データは文字列形式で取得されるので、私は浮動小数点数に変換する必要があります。これは楽しい時間が始まるところです。（ライン65-73）に示すように私のコードの関連セクションは次のとおりです。 ft = [] puts "File Name: #{ARGV[0]}" File.open(ARGV[0

8熱

7答えて

Pythonでの不正確な対数

私は毎日私の会社でPython 2.4で働いています。私は標準的な数学ライブラリの多用対数関数 'log'を使用しました。log（2 ** 31、2）を入力すると31.000000000000004が返されました。私は2の他の大国と同じことをした、そしてそれは完全に働きました。私は 'log10（2 ** 31）/ log10（2）'を実行した。31.0 より高度なバージョンで修正されたと仮定し

2熱

3答えて

PerlのStatistics :: Descriptiveで無限ループを引き起こす丸め誤差を回避するにはどうしたらいいですか？

私は頻度分布を計算し、浮動小数点の丸め誤差の問題に対処するためにPerlでStatistics::Descriptiveライブラリを使用しています。私は統計モジュールに0.205と0.205の2つの値（他の数値とsprintf'dから取得）を渡し、頻度分布を計算するよう依頼しますが、無限ループに陥っています。私はそれがやっていることがわかりますデバッガでステップスルー：私は期待通り（範囲は最大

6熱

2答えて

確定的なプロセスで浮動小数点エラーが発生する原因

これを既に読んでいるquestion浮動小数点の算術演算を同じ入力（同じハードウェア上で、同じコンパイラでコンパイル）で使用する特定のプロセスは、決定論的。私は、これが真実ではない場合を見て、これを引き起こした原因を特定しようとしています。私は実行可能ファイルをコンパイルしましたが、同じマシン上で（マルチスレッドではなく）実行されている同じデータを供給していますが、私が見つけた慎重なグーグルで約

6熱

6答えて

特定の数のゼロで浮動小数点を印刷する

小数点以下の桁数を制御する方法はわかっていますが、具体的にゼロ桁数を制御するにはどうすればよいですか？例えば： 104.06250000 -> 104.0625 119.00000 -> 119.0 72.000000 -> 72.0

2熱

1答えて

IntPtrパラメータを浮動小数点値で「塗りつぶす」方法

私はdllImportを使用してCライブラリでCライブラリを使用しています。このライブラリのメソッドの1つは、データ型void *をパラメータとして使用します。私はvoid *にマッチするC＃でデータ型IntPtrを使用できることを知りました。このIntPtrパラメータの値を設定する方法はわかりません。実際には、このパラメータにfloat値を設定したいと思います。どうすればいい？ありがとうござ

1熱

6答えて

浮動小数点数を配列に読み込む

メモリを無駄にすることなく、10個の浮動小数点を浮動小数点として配列に格納する方法を教えてください。