nvprofは、Pythonスクリプトをプロファイリングするときに使用可能なすべてのGPUを使用しています

Question

CUDAコードを持つPythonスクリプトを実行するために、2つのGPUを持つリモートマシンを使用しています。コードのパフォーマンスを改善できる場所を見つけるために、nvprofを使用しようとしています。

nvprof --profile-child-processes ./myscript.pyを呼び出すと、GPUのそれぞれで同じIDのプロセスが開始されますが、リモートマシンで2つのGPUのうちの1つだけを使用したいというコードを設定しました。

nvprofには、プロファイリングに1つのGPUのみを使用するための引数がありますか？

Answer 1

CUDA environment variableCUDA_VISIBLE_DEVICESは、特定のGPUのみを使用するようにCUDAランタイムAPIを制限するために使用できます。

CUDA_VISIBLE_DEVICES="0" nvprof --profile-child-processes ./myscript.py 

また、nvprofはdocumentedであり、またnvprof --helpを経由して、コマンドラインのヘルプを持って：あなたはこのようにそれを試すことができます。コマンドラインのヘルプを見ると、--devicesスイッチがあり、特定のGPUだけを使用するように少なくとも一部の機能を制限しているようです。

nvprof --devices 0 --profile-child-processes ./myscript.py