2016-12-12 6 views
1

畳み込みネット(CNN)では、フィルタがランダムに初期化されるよりも、誰かが私に答えました。畳み込みネットワークで学んだこと

私はこれで大丈夫ですが、勾配降下がある場合、誰が学習していますか?機能のマップ、またはフィルタ? 複雑なことを認識する必要があるので、私の直感はフィルタが学習していることです。 しかし、私はこれについて確信しています。

+0

あなたのネットワークはさまざまなカーネルで構成されています。それぞれがパラメータwおよびbを有する。 GD applyは、これらのパラメータのシフト値をエラーを減らす方法で計算します。 – Feras

+1

フィーチャマップは、入力(画像/フィーチャマップ)に適用するときにフィルタ/カーネルの出力であるため、学習できません。入力から出力へ変換するためのパラメータ(フィルタの)のみが学習できます。 – aleju

+0

[my masters thesis](https://arxiv.org/pdf/1707.09725.pdf#page=17)の3〜10ページをお読みください。特に図6 –

答えて

2

畳み込みニューラルネットワークのコンテキストでは、カーネル=フィルタ=特徴検出器である。

Stanford's deep learning tutorialからの偉大な例があります(また、Denny Britzでうまく説明されています)。

enter image description here

フィルタが黄色スライディングウィンドウであり、その値は次のとおり

enter image description here

特徴マップピンク行列です。その値は、フィルタと画像の両方に依存します。その結果、フィーチャマップを学習することは意味がありません。ネットワークの訓練を受けたときにフィルタのみが学習されます。ネットワークは、訓練される他の体重を有することもできる。

+0

多くの説明に感謝します! 今私には意味がある! :) 最後の質問ですが、コンバージョンレイヤーの出力がある場合、3つのフィーチャーマップがあるとしましょう。そして、3つのカーネルで他のコンバレイヤーをその隣に配置します。 出力は3または9のフィーチャマップになりますか? より正確には、最初のレイヤーの3つのフィーチャーマップは、次のコンバレイヤーによって処理される方法で連結されるか、最初のフィーチャーマップのすべてが3つの新しいイメージのように次のコンボに送られますか? –

+0

ああ、なぜ最初のレイヤーでは、フィルタは最後のものよりジェネリックな特徴を抽出する可能性が高いのですか? –

1

alejuが述べたように、フィルタの重みが学習されます。特徴マップは、畳み込み層の出力である。畳み込みフィルタの重みに加えて、完全に接続された(および他のタイプの)レイヤの重みもあります。

関連する問題