CNTK - モデルの不完全なトレーニング

Question

CNTKのPython APIを使用して、私は単純なグリッドベースのボードゲームをプレイするために3層のフィードフォワードネットワークを訓練しました。小さなボード（6×6）のグリッドを使用すると、モデルは正常にトレーニングされます。モデルは100ゲーム以上で100％の成功率でゲームをプレイします。しかし、ボードのサイズを21 x 21に増やすと、トレーニングは100ゲーム以上で約90％の成功率で飽和しているようです。

トレーニング時間を長くするか、トレーニングパラメータを変更しても、モデルのパフォーマンスは向上しません。

• 私に何かが不足していますか？
• CNTKは「ドロップアウト」の使用をサポートしていますか？
• トレーニング

Answer 1

はいドロップアウトがサポートされているが改善するが、他の技術です。現在のドキュメントはここにあります：あなたは、活性化関数の

https://cntk.ai/pythondocs/cntk.ops.html?highlight=dropout#cntk.ops.dropout

どのような種類を使用していますか？ Sigmoidsを使用している場合は、ReLUsを試してください。 ReLUを使用する場合、大きな勾配が流れるため、トレーニング中に死にそうである可能性があります。 Leaky ReLUまたはParam ReLUを使用してみてください。これらはすべてツールキットによってサポートされています。