ネットワークのトレーニング中に別のスレッドから推論を安全に行うことはできますか？

Question

私はネットワークの重みを更新するか、または推論を実行するいくつかのスレッドを持っています。オプティマイザにはパラメータを使用して、重みの同時更新を防止します。

推論では、最近の重要な一貫性のあるバージョンのウェイトを常に使用する必要があります。言い換えれば、いくつかの要素が既に更新されているが、他の要素は更新されていない推論のための重み行列を使用しないようにしたい。

これは保証されていますか？そうでない場合、どうすればこのことを保証できますか？ tf.Lockなどと思われません。

Answer 1

あなたの推論の呼び出しは、最新バージョンのグラフにある必要がありますか？遅延が気にかからない場合は、トレーニングスレッドでsess.graph.as_graph_defを呼び出してグラフのコピーを作成し、そのgraph_defを定期的に使用して推論スレッド上に新しいセッションを作成します。