Julia CUDArtと同期するには？

Question

ジュリアのCUDArtパッケージを使用してGPUコンピューティングを管理し始めました。私は必要な計算がすべて実行される前にgpuから（例えばto_host()を使用して）データを取得するようにする方法を知りたいと思っています。

特定のCudaArrayが更新されている間、若干の実験を通して、to_host(CudaArray)が遅れているようです。だから、おそらくこれを使って安全性を確保するだけで十分でしょうか？しかし、ちょっとばかげているようです。

今はdocumentationのように、launch()関数を使用してカーネルを実行しています。

CUDArtのドキュメントではJuliaの@syncマクロを使用した例がありますが、これは美しいかもしれません。しかし、@syncの目的のために私は自分の「仕事」を終え、カーネルがlaunch()で開始されるとすぐに移行する準備が整いました。私がlaunch()の操作を理解している限り、この機能を変更する方法はありません（「起動する機能の出力を受け取るのを待つ」など）。

どのように同期を行うことができますか？

Answer 1

私はより多くの標準的な方法は、各デバイスのストリームを作ることだと思う：@asyncブロック内

streams = [(device(dev); Stream()) for dev in devlist]

、その後、あなたが計算を行うには、それを教えた後、あなたがwait(stream)機能を使用しますそのストリームがその計算を終了するのを待つように指示します。 READMEのStreamsの例を参照してください。

Answer 2

しかし、CUDArtパッケージには数多くのドキュメンテーションはありませんが、私はソースコードを見ていますが、これを行う方法は簡単です。特に、現在アクティブなデバイス上のすべての作業が終了するまでブロックする機能があると思われます（device_synchronize()）。このように、特に以下が動作するようです：

using CUDArt 
md = CuModule("/path/to/module.ptx",false) 
MyFunc = CuFunction(md,"MyFunc") 
GridDim = 2*2496 
BlockDim = 64 
launch(MyFunc, GridDim, BlockDim, (arg1, arg2, ...)); 
device_synchronize() 
res = to_host(arg2) 

私はここで注意すべき多くのものがあるかどうかのより多くの専門知識を持つ誰からも聞いてみたいです。