ノードごとにいくつのシナプスが必要ですか？

Question

パーセプトロンネットワークを実装したいのですが、少し問題があります。最初の実装は非常に簡単です。 3つのレイヤー、入力、隠されたレイヤー、出力レイヤー。私の問題は、入力と隠れ層の間に隠れたノードに最適なシナプスはいくつあるのでしょうか？すべてのノードがすべての入力ノードに参加すれば、それほど経済的ではないと思います。

コメントありがとうございます。

Answer 1

非常に一般的な設定では、指定されたレイヤのすべてのノードを次のノードのすべてのノードに接続します。これは「完全接続層」と呼ばれます。明らかに、これは唯一の選択肢ではなく、より高度なアプローチでは、受容野、恒真層などのより疎なコネクトムが見つかるでしょう。単純な実験では、完全に接続されたレイヤーから始まります。あなたのデータ（入力の空間的/時間的関係など）、完全に接続されたレイヤーは、不可知論的な一般的なアプローチです。