私はテンソルフローを使って深い学習モデル(CNN's)を実行しました。時代の何度も、私は損失と精度の両方が増加したか、または両方が減少したことを観察しました。私の理解は、どちらも常に逆の関係にあるということでした。同時に増減するシナリオは何か。損失と精度の両方の増加をどのように解釈するのですか
6
A
答えて
15
ミニバッチ勾配降下および/またはドロップアウト(ランダムノイズを導入する)のような正則化技術によってもたらされるいくつかの変動を除いて、訓練プロセスが進むにつれて、損失は減少する。
損失が減少する場合、トレーニングプロセスは順調です。
精度(私が想定している)の精度は、代わりに、モデルの予測がどれほど良いかの尺度です。
モデルが学習している場合、精度が向上します。モデルがオーバーフィッティングされている場合、精度は向上しなくなり、減少し始めることさえあります。
損失が減少し、精度が低下した場合、モデルはオーバーフィットです。
あなたの正規化手法がうまくいて、過大適合問題と戦っているため、損失が増加し、精度が向上した場合もあります。これは、精度が向上し続ける間に損失が減少し始めた場合にのみ当てはまります。 そうでなければ、損失が増え続けるならば、あなたのモデルは発散しており、原因を探すべきです(通常、あなたはあまりにも高い学習率の値を使用しています)。
関連する問題
- 1. Generative Adversarial Netsで弁別者の損失と発電機の損失をどのように解釈するか?
- 2. C#の倍精度精度の損失、減算の倍数を加算するときの精度の低下
- 3. LSTMテンソルの損失を解釈する
- 4. 12HRで一瞬の精度精度の損失を解決するにはどうすればよいですか?
- 5. SciPy fmin_bfgs精度損失を扱う
- 6. 精度解析の浮動小数点数の損失
- 7. tflearn(CNN)での損失の増加
- 8. convレイヤを追加すると損失が増え、精度が低下します。Tensorflow
- 9. ケラスは「精度」と「損失」をどのように定義していますか?
- 10. VARモデルの精度をパーセンテージとして解釈する
- 11. C#二倍から十進精度の損失
- 12. Kerasを使用したLSTMネットワークでの検証の損失と精度
- 13. Android - ビットマップ解像度の損失
- 14. 深いニューラルネットワークのトレーニングトレースの解釈:非常に低いトレーニング損失とさらに低い検証損失
- 15. Kerasのデータのバッチで、一度に損失とモデルの両方の出力を得るには?
- 16. カフェ損失層、平均および精度
- 17. TensorFlowのバイナリ分類、予想外の大きな値の損失と精度
- 18. このマクロをどのように解釈できますか?
- 19. プロパティベースのテストコードをどのように解釈できますか?
- 20. QPainterPath :: arcToの角度はどのように解釈されますか?
- 21. チャットの会話のCoreference解決の精度を上げるにはどうすればよいですか?
- 22. 損失増加の可能性のある説明はありますか?
- 23. Googleマップの精度を失うGeoPointクラス
- 24. Googleマップのポリラインをエンコードするときの精度を失う問題を解決するには
- 25. Java - 1回の二重加減算における精度の最大の損失
- 26. IO BusyをSybaseでどのように解釈しますか
- 27. このx86_64アセンブリのオペコードをどのように解釈するのですか?
- 28. どのようにAndroidのANRレポートを解釈しますか
- 29. shootout.alioth.debian.orgの結果をどのように解釈しますか?
- 30. セグメンテーションアルゴリズムの精度をテストするにはどうすればよいですか?
あなたは、検証セットの損失、精度、またはトレーニングセットの損失と精度を指していますか? –