Particle Swarm Optimizationの汎用パラメータ

Question

Particle Swarm Optimizationの一般的な動作を理解しており、いくつかの記事でそれを読んでいます。 PSOに関するほとんどの記事は、単一方程式関数の最適化に重点を置いています。 PedersenのParticle Swarm Optimizationのための良いパラメータでは、7つの次元数（2〜100）を持つ約10のベンチマーク問題について、メタ最適化PSOから18の結果を得ています。

PSOでマルチレイヤパーセプトロンを最適化したいと考えています。私は首尾よくいくつかの小さなMLPのMatlabで成功しましたが、私が望むほど大きくはありません。 （100次元は単一式の関数では巨大ですが、ニューラルネットワークでは重みと偏りの数が非常に多いため、最終的なプログラムでは80万の重みとバイアスの次元を最適化する必要があります。 ）

w、c1、およびc2 *の値をどのようにして任意の次元数の関数を最適化できるかを簡単に説明することはできません。 （私はあまりにも多くのことを求めていると確信していますが、ステップの不連続性はありますが、大規模な滑らかさに似ており、ホワイトノイズはありません）。

またはメタ最適化一般的なニューラルネットワークのPSO？

Answer 1

母集団ベースの方法のすべてのタイプで、パラメータを選択する方法の問題は困難なものです。ほとんどの場合、複数のパラメータセットをテストし、そのタスクに最適なセットを選択します。幸いなことに、PSOの目標は最適な場所に収束することです。A. Engelbrechtは、すべてのパラメータセットが収束するわけではないことを証明しました。 Hereは説明がある紙です。 収束条件は945および947に記載されています。スライドに掲載されている参考文献で発表された論文を見つけることもできます。その狭間を超えて、特定の問題に適した探査と搾取のバランスを見つけることが必要です。

PSOを使って神経ネットワークを進化させた経験から、データが静的である限り一般的なバックプロンプトメソッドを使用するだけでは効果がないことをお知らせします。ダイナミックな環境で作業している場合、量子/課金PSOがより良い選択です。

これは、パラメータ検索の絞り込みを希望し、さらに洞察を与えてくれることを願っています。

編集：

グラフを含む紙：

「粒子群最適化粒子軌道の研究」F.

は同様のグラフ 注と紙とのリンクを置き換えvan den Bergh、AP Engelbrecht