はフロート番号（丸め）エラー

の影響を低減私たちはいくつかの幾何学的なアルゴリズムを実装するが、フロート数演算誤差の影響が大きい発見されました。このような影響を減らすガイドラインはありますか？はフロート番号（丸め）エラー

アルゴリズムは、多くの部品が含まれており、非常に複雑です。この例の1つは、線とスプライン（ベジエ曲線の連続）間の交点を計算することです。ベジェの終点に近い線位置では、結果が不安定になります。

おかげ

2011-06-20 xeranic

？ – David

そしてどのアルゴリズム？あなたのコードを私たちに教えてください。 – dan04

我々は、Javaを使用しているが、私はすべての浮動小数点演算がIEEE754基準を次のCPUで実行されるため、この問題は、プログラミング言語に関連しているとは思いません。 – xeranic

2011-06-20 13:27:23

ありがとう、これは非常に役立ちます。しかし、私の問題は、 "アルゴリズムを浮動小数点エラーにあまり敏感にならないようにする方法"です。これ、または私が読む必要がある本のための一般的なガイドラインはありますか？ – xeranic

答えて