多くの寸法の可逆次元削減

Question

可逆（私はサブマニホールドと元の空間の間を行き来することができます）と大規模（> 100万以上の寸法）のスケール縮小手法のリストはありますか？ベクトルは非常にまばらです。理想的には、少数の例題（〜10kの次元に縮小）で大まかな興味のある部分空間を見つけて、細かい制御のために部分空間にオートエンコーダーのようなものを訓練することができます。

• > 1Mの入力サイズを持つFCレイヤーが非常にメモリが賢明になるため、自動エンコーダのためにまっすぐ行くのはおそらく画像外です。
• PCAはオプションですが、メモリフットプリントは膨大です。
• ランダムプロジェクションは元の空間に戻す方法がないようですか？

ありがとう！ scikit-learnから

Answer 1

二候補（もっとあるかもしれません）：

• Incremental PCA：バッチのよう
• Truncated SVD：スパース

あり、よりinverse_transformをサポートがありますが、私は唯一のものを取りましたスパース入力をサポートしたり、バッチを処理したりします。

スパース入力を使用している場合でも、10kのディメンションを保持するのは非常にメモリを消費します。