2012-03-23 7 views
0

最適化ルーチンを書いて、各繰り返しで許容値が消滅します。各反復で、閾値許容差1e-10で比較が実行されます。私は逐次反復のログを計算し、ある時点で許容度がある反復から次の反復に多く減少し、0.000573789から-1。IND(NaN、右?)になることを観察します。閾値は検出されません。許容値の閾値が満たされているにもかかわらず、反復はさらに進む。C++ - 最適化ルーチンでNaNへのパスを追い越す

現在の許容値を1e-10とNaNの両方と比較する必要がありますか?問題はどこから来るのでしょうか?すべてのものは倍です。

ありがとうございます。

+0

コードが必要です。 – orlp

答えて

2

最初はNaNを使用しないでください。 NaNのシグナルを有効にし、デバッガで実行し、コードを修復します。

this articleが便利です。

関連する問題