2011-08-11 28 views
0

イメージを周波数スペクトルに変換し、カーネルで畳み込んだ後、それを逆変換します。高速フーリエ変換 - 丸め誤差

私は変換中に発生する丸め誤差をどのように処理できるか尋ねたかったのです。画像を変換するときと同じように、すぐにそれを元に戻します。平均PSNRは127です(float形式のピクセルを0.0〜1.0に変換します)。

エラーを計算して修正できますか?

+0

より良い答えを得るために、なぜ数値精度が心配ですか?それは問題を引き起こしていますか?それとも、ただ測定して見ていますか? – Nayuki

+0

画像に畳み込みフィルタを追加すると、あまりにも多くの画像情報が失われることが懸念されます。 – Marco

+0

ああ。 PSNR = 127では実際には127(21 dB)か127 dBを意味しますか?また、あなたが使用している数字の種類は何ですか?浮動小数点、二重、または何か他のですか? – Nayuki

答えて

2

短い答え:丸め誤差を減らしたい場合は、より正確な数値形式が必要です。また、エラーを計算することはできません。

  • のBigDecimalまた
  • 、ない

    • のx87 80ビットの拡張精度(ダブルロング)のBigIntegerと
    • 固定小数点:

      より正確な浮動小数点形式は、 127dBのPSNRはすでに非常に良好ですか?

    関連する問題