OpenGLシェーダでNaNを検出する最善の方法

Question

今朝の不思議なバグのように見えて、私は非常に素早く解決策を見つけるのは大変ラッキーだと感じました。

私は、フラグメントシェーダの平均内部を生成するためにカウンタで割っていましたが、もちろんカウンタがゼロのとき、結果のカラー値はNaNになりました。

ブレンド中、NVidiaはNaNを正常に0値として扱いますが、IntelはNaNをカスケードしないように見せかけ、黒い破片を生成します。

Intelのマシンでコードをテストするまで、このバグは残っていました。

無効な値を「トラップ」するためにできることがあるのだろうかと思います。通常のプログラミングと同じように、唯一の確実な（そしてそれでも防弾ではない）方法は、数値を分割するときに考えられるすべてのケースを注意深く検討することです。

NaNを検出する標準的な方法は、数値がそれ自身と等しくないかどうかを確認することです。おそらく、それ自身と等しくないかどうかを確認するために各フラグメントをチェックするデバッグシェーダを構築し、その条件が満たされていれば、目立った色が点滅するように設定できますか？ GLSLはこのようにNaNを検出できますか、値が無効なときはいつも未定義の動作に固執していますか？

Answer 1

私は、フラグメントシェーダの平均内部を生成するためにカウンタで除算していましたが、もちろんカウンタがゼロの場合、結果のカラー値はNaNになりました。

これは、浮動小数点の仕組みではありません。ゼロで割ると、INF、NaNではなくなります。分子がゼロでない場合は、NaNを取得します。

いずれにしても、GLSLは、彼らが言うことを行うisinfとisnanの機能を提供しています。

Answer 2

WebGLおよびOpenGL ES 2.0ではisnanが不足しています。すべてのGPUで動作するPolyfill私は試してみる機会がありました：

bool isnan(float val) 
{ 
    return (val < 0.0 || 0.0 < val || val == 0.0) ? false : true; 
    // important: some nVidias failed to cope with version below. 
    // Probably wrong optimization. 
    /*return (val <= 0.0 || 0.0 <= val) ? false : true;*/ 
}