GPUデバイスで同時に実行できるタスクの数はいくつですか？

Question

私はOpenCLを使用しており、ATI 4850カードを持っています。それはあります

• CL_DEVICE_MAX_COMPUTE_UNITS：10
• CL_DEVICE_MAX_WORK_ITEM_DIMENSIONS：3
• CL_DEVICE_MAX_WORK_GROUP_SIZE：256
• CL_DEVICE_MAX_WORK_ITEM_SIZES：（256、256、256）
• CL_DEVICE_AVAILABLE：1
• CL_DEVICE_NAME：ATI RV770を

何ta sksは同時に実行できますか？

CL_DEVICE_MAX_COMPUTE_UNITS * CL_DEVICE_MAX_WORK_ITEM_SIZES = 2560ですか？

具体的には、1つのコアプロセッサで1つのタスクしか実行できません。デュアルコアは2つのタスクを実行できます... 1つの時点でGPUを実行できるタスクはいくつありますか？言い換えれば、GPUにはいくつのプロセッサが搭載されていますか？

Answer 1

RV770には10個のSIMDコアがあり、それぞれ16個のシェーダコアで構成され、それぞれ5個のALU（VLIW5アーキテクチャ）で構成されています。並列計算を行うことができる合計で800個のALU。私はOpenCLからこれらの数字をすべて取得する方法はないと思います。私はあなたがCPUコアと同等であるかどうかも分かりません。おそらくシェーダコアですか？ VLIW at Wikipediaについて読むことができます。それは面白いデザインです。

複数のALUが並行しているにもかかわらず、CPUコアが1つの「タスク」しか実行していないとすれば、RV770は160のタスクを処理していると言えるでしょう。しかし、異なるチップの仕組みの違いによって、「コア」と「タスク」を定義するのが難しくなると思います。ハイパースレッドを持つCPUは、同時に2組のコードを実行することさえできます。 OpenCLでは、最近のドライバのアップデートで変更されていない限り、いつでも複数のカーネルを実行することはできません。

とにかく、私は、あなたの仕事を最高のパフォーマンスを与える方法でGPUに提示することが重要だと思います。残念ながら、実験以外のベストワークグループのサイズを見つける方法はありません。少なくとも私が知っているものではない。ドライバがOpenCL 1.1をサポートしている場合は、CL_KERNEL_PREFERRED_WORK_GROUP_SIZE_MULTIPLEを照会し、作業サイズをその倍数に設定することができます。さもなければ、64の倍数のために行くことはおそらく安全な賭けです。

Answer 2

GPUの作業が波面/ワープになります。

UIと計算にGPUを使用すると、それを意識することなく多くのプログラムで効果的に使用できます。 GUI描画の多くに加えて、あなたが実行している計算カーネルもあります。高速OpenCLクライアントは非同期であり、複数の作業インスタンスをオーバーラップさせるため、遅延に拘束されません。並行して複数のカーネルを使用することが期待されます。

使用できるバッファの数を制限するメモリ以外の「ハード」制限はないようです。 UIと計算に同じGPUを使用する場合は、作業を抑える必要があります。私の経験では、あまりにも多くの作業を行うと、GUIや計算カーネルが枯渇することになります。あなたが飢餓状態にならないようにする方法はありません（作業項目が実際に実行されるまでには長い時間がかかります）。一部の作業項目は、GPUが他の作業項目を実行している間に非常に長い時間（10秒以上が間違っている）で座ることがあります。私は、データの可用性に基づいてアイテムがパイプラインに送られ、作業アイテムの飢餓を防ぐことはほとんどまたはまったくないと推測しています。

どのくらい先に作業がエンキューされるかを制限することで、GPUの作業キューをほぼ/時には空にすることで、GUI応答性を大幅に向上させ、GUI描画作業飢餓の遅延を軽減します。