CUDA/openCL;コードは常に（あるいは、少なくとも、ほとんどの時間が）に書き換えることができ</p> <pre><code>for (int i=0; i<width; i++) { if(i % threadIdx.x == 0) quantity += i*i; } </code></pre> <p>：のようにブランチが、CUDAやOpenCLのプログラムで必要とされる時間のほとんどは非分岐表現

Question

として枝を書き換えます非分岐のスタイルは：

for (int i=0; i<width; i++) 
{ 
    quantity += i*i* (i % threadIdx.x != 0); 
} 

トレードオフはちょうどその時々の値である、いずれかの第二の場合には（すべてのスレッド上でより多くの計算をやって対単一ワープスロットで実行して、合計が常に実行されているように見えますゼロ）

分岐操作が可能な分岐ごとに複数のワープ・スロットを取ると仮定すると、第2のものは第1のものよりも一貫して優れていると思われます。コンパイラに頼って、2）理に適ったときに、あるいは広範に適用できる基準がないときに最適化することができますか？一般に、試したりプロファイリングすることなくどちらが良いかを決めることはできません。

Answer 1

私はCUDAについての多くの思い出を持っていませんが、なぜループを並列化しないのですか？演算を追加するには、アトミック演算[1]を使用する必要があります。これがあなたを助けることを願っています！申し訳ありませんが、そうでない場合。

1. アトミックオペレーション：私の経験でhttp://supercomputingblog.com/cuda/cuda-tutorial-4-atomic-operations/

Answer 2

- それは完全にコンパイラの作家までのエッジ例これらの種類を最適化することです。

1）を2）にすることはできません。ここでは1つです：私は10個のスレッドごとに計算の特定の部分を実行する方が効率的だったカーネルを書いています。そのような最適化は推論できませんが（数式を減算する）条件付き対「すべて実行」の結果にかかわらず同じ結果が得られます。

しかし、threadId == 0のチェックが一般的なシナリオであっても、実際に最適化されているかどうかはわかりません。私は実装に依存し、デバイス自体（CPU対GPU）にも依存していると賭けるだろう。

上記の理由だけでなく、作業スケジューラがスレッドのセットを開始/停止するのにどれだけ費用がかかっているかによって動作が異なる可能性があるため、最も効果的なものを実際に見つけるために試してみる必要がありますそれらがすべて実行される（ほとんどの場合、ゼロ/アイデンティティの結果を提供する）こととは対照的です。

希望すると便利です。

Answer 3

モジュロ演算はかなり高価です：モジュロを加算すると、スレッドが1つしか実行されないという単一の命令を持つよりも時間がかかることは合理的に確信しています。 1つの分岐ステートメント（ifにelseがない場合）は、他のスレッドだけがハングしますが、ステートメントが実行されている場合は、スレッドがハングします。 gpusは非常に高速なコンテキスト切り替え用に最適化されているため、そのためのコストはほとんどありません。

長い分岐文を使用しないことをお勧めします.GPU上の並列計算が多すぎると（つまり、すべての作業を行うスレッドが1つ）、並列処理の利点が無効になります。