2017-12-16 6 views
0

多くの書籍で、ニューラルネットワークのグローバルな最小値と収束を伴うエラーサーフェスの美しい写真が見られます。どのように私はkerasに似たようなものを可視化することができますか?つまり、エラーの表面を含み、私のモデルがどのようにグローバルな最小誤差を達成するために収束しているか?以下はそのようなイラストのイメージ例です。 thisリンクにはさまざまなオプティマイザのアニメーションイラストがあります。この目的のためにテンソルボードログコールバックを調べましたが、そのようなものは見つかりませんでした。ちょっとした指導をいただければ幸いです。ケラスのエラーサーフェスをどのように視覚化するのですか?

enter image description here

答えて

1

画像やアニメーションはdidatic目的のために作られているが、エラー表面は完全に未知の(または理解または可視化することが非常に複雑な)です。勾配降下の背後にある考え方全体です。

現在のグラデーションを取得することで、関数が増加する方向を1点で知ることができます。

各反復とエラーで重み値を取得することで、次の方法(線)をプロットすることができますが、別の問題に直面します。大規模な多次元関数です。実際には表面ではありません。変数の数は、モデルにあるウェイトの数です(多くの場合、数千または数百万)。これは、視覚的なものとして視覚化したり、想像することは絶対に不可能です。

このようなサーフェスをプロットするには、数千のウェイトを手動で変更して各アレンジのエラーを取得する必要があります。 "可視化不可能"問題の他に、これは過度の時間がかかるでしょう。

関連する問題