AlexNetのパラメータ数の計算方法は？

Question

iは、パラメータの計算ので、私はそれを計算してみました（重み+バイアスを）AlexNetの見つかっていないが、私はよく分からない場合は、その正しい：

CONV1：（11 * 11）* 3 * 96 + 96 = 34944

CONV2：（5 * 5）* 96 * 256 + 256 = 614656

conv3：（3 * 3）* 256 * 384 + 384 = 885120

CONV4：（3 * 3）* 384 * 384 + 384 = 1327488

conv5：（3 * 3）* 384 * 256 + 256 = 884992

FC1：（6×6）* 256 * 4096 + 4096 = 37752832

FC2：4096 * 4096 + 4096 = 16781312

FC3：×1000 + 1000年4096 = 4097000

この合計62378344個のパラメータが得られます。その計算は正しいのでしょうか？

Answer 1

このプレゼンテーションのスライド8には60Mのパラメータがあると言われていますので、少なくともあなたはボールパークにいると思います。 http://vision.stanford.edu/teaching/cs231b_spring1415/slides/alexnet_tugce_kyunghee.pdf

Answer 2

彼らの論文の図によれば、いくつかの層はグループ化を使用しています。したがって、1つのレイヤのすべての機能が次のレイヤと通信するわけではありません。これは、例えばを意味する。 conv2の場合は、（5 * 5）* 48 * 256 + 256 = 307,456の機能しか持たないようにしてください。

すべての新しい実装にグループ化が含まれているかどうかはわかりません。それは2つのGPUでネットワークトレインを並行させるために使用された最適化でしたが、最新のGPUはトレーニングのためのリソースが多く、グループ化することなく快適にネットワークにフィットします。