コンピュータネットワークを模倣するニューラルネットワーク（Jeff HeatonのEncog付き）

Question

私はjeff heatonのencogニューラルネットワークライブラリを使ってコンピュータメモリを模倣したいと思います。私はちょうどどのアプローチを使うべきか分かりません。

私の要件は、メモリの場所と値のバイトの集合を持つことです。

location [0000]:byte-data[0101010] 
location [0001]:byte-data[0101010] 

ものは、私は、ニューラルネットワークシステムに渡す値です。

私は、記憶データが変化するたびにニューラルネットワークを再学習することを避けようとしていました。しかし、それは私がする必要があるかもしれません。

私がしようとしていることを達成するためにどのような神経回路技術を使用しますか？

Answer 1

あなたがしようとしていることは問題ではありません。ニューラルネットワークは、パターンを一般化することで、学習しない方が優れているので、本当に素晴らしいです。しかし、あなたは確率的ニューラルネットワークか規則的知覚のどちらかでこれを達成することができるかもしれません。あなたはあなたの問題について少し漠然としていたので、私の答えはあいまいでなければならないでしょう。私は、あなたがメモリのデータを渡してから、それをメモリアドレスに「分類する」ということを仮定します。このようにして、管理されたトレーニング方法を使用してネットワークをトレーニングすると、既存のアイテムと類似または同一のメモリデータを渡すことができ、ネットワークによってアドレスが与えられます。あなたは同じことを私が想定している逆にすることもできます。

確率的ニューラルネットワークを使用する場合は、基本的にネットワークに渡すすべてのパターンを学習することになります。もちろん、新しいメモリアドレスを保存するたびに、新しいノードをネットワークに追加することになります。この問題を軽減するための作業が完了しました。for example, this paper（自分でalgoを実装する必要があります）。おそらく、このタイプのネットワークは、結果を（確率を使用して）一般化することができる一方で、メモリを正確に「記憶」することにおいて最も信頼できるものであろう。欠点は、メモリが大量に消費されることです。

従来のフィードフォワードの逆伝播ネットワーク（パーセプトロン）では、このようなことを可能にする必要があります。しかし、ネットワークがすべての入力値を適切にリコールできるように、隠れたノードを十分に作成するように注意する必要があります。これを行うと、あまりにもフィットすることになりますが、入力データを一般化したくないと思われる場合は、パターンのリコールをよくしてください。

新しいデータの学習の問題を解決するには、ネットワークを1回学習するのではなく、時間をかけて学習できるようにするだけです。あなたはこれをもっと研究しなければならないでしょうが、何らかのオンライン学習アルゴリズムを使いたいと思うでしょう。結論として

、アルゴリズムのいくつかの他の種類を使用し、ニューラルネットワークを使用していない：P

Answer 2

あまりにも技術的なことではないでしょうが、私はかなりの数の接続されたループから来る一連のループがメモリを作り出すことができると確信しています。

各ループによってデータが円になり、その下の各ループがメモリを識別、取得、または変更することができます。

もちろん、どのようにネットワークを誘惑してそのデザインを組み込むのかはわかりません。

Answer 3

Hopfield neural networkは連想メモリを実装するための簡単な方法です。便利なことに、これはEncogフレームワークでもサポートされています。