私は、KNNのalgoを使用して、私は90%の精度を得ているが、SVMを使用すると70%以上を得ることができます。 SVMはKNNよりも優れていません。私はこれが愚かであるかもしれないが、KNN algoとほぼ同じ結果を与えるSVMのパラメータは何かを知っています。私はmatlabでlibsvmパッケージを使用しています。R2008サポートベクターマシン対K最近隣の
答えて
kNNとSVMは学習のさまざまなアプローチを表しています。各手法は、基礎をなすデータに対して異なるモデルを意味します。
SVMは、データポイントを分離するハイプレーン(かなり限定的な仮定)が存在すると仮定しますが、kNNはノンパラメトリックな方法(パラセンウィンドウ推定の粗近似)でデータの基礎分布を近似しようとします。
アルゴリズムと構成が最もよく使用されているかどうかを判断するには、シナリオの詳細を確認する必要があります。
実際に使用しているデータセットによって異なります。この画像の最初の行(http://scikit-learn.org/stable/_images/plot_classifier_comparison_1.png)のようなものがあれば、kNNは本当にうまく動作し、Linear SVMは本当にひどく動作します。
SVMのパフォーマンスを向上させたい場合は、カーネルベースのSVMを画像のように使用できます(rbfカーネルを使用します)。
あなたはscikitは、学ぶのpythonのためにあなたがコードでビットを再生することができます使用している場合は、ここでカーネルSVMを使用する方法を確認しhttp://scikit-learn.org/stable/modules/svm.html
k最近傍は、基本的には、「あなたは座標xに近いなら、その分類を言いますxの観察結果に類似しています。 SVMでは、近似アナログは、SVMがより多くオーバーフィットするため、 "小さい"帯域幅パラメータを持つ高次元カーネルを使用しています。つまり、SVMは「あなたがxを座標に近づけているならば、その分類はxで観測されたものに似ています」に近づくでしょう。
ガウスカーネルを使い、さまざまなパラメータについて結果を確認することをお勧めします。私自身の経験(もちろん、特定のタイプのデータセットに焦点を当てて、あなたの走行距離が変わるかもしれない)から、チューニングされたSVMはチューニングされたkNNよりも優れています。あなたのための
質問:k最近傍で
1)どのように選択しているのk?
2)SVMでどのようなパラメータを試しましたか?
3)サンプル中またはサンプル外の精度を測定していますか?
- 1. Cocos2dの最近隣「ピクセル」テクスチャスケーリング?
- 2. K最近傍アルゴリズム疑問
- 3. D3での最近隣の検索
- 4. RのK最近隣の次のディメンションの不一致をどのように解決できますか?
- 5. シミュレーテッドアニーリングアルゴリズムでの近隣選択
- 6. 最近のネイバー検索k-dツリーなしのPython
- 7. openmpとセグメンテーションフォールトを使ってKを最も近い近傍に配置
- 8. 2セットの日付間の最近隣の検索
- 9. SQL Geography Fast最近隣の距離順のリスト
- 10. ノードの近隣から最大のノードを返します
- 11. mysql nearst近隣検索
- 12. Quaternionsを使用している最近隣の人
- 13. 最近隣/緯度と経度を見つける
- 14. Googleが近隣の場所を検索
- 15. サポートベクターマシン図
- 16. サポートベクターマシンの例
- 17. サポートベクターマシンの紹介
- 18. Kの最も近い点を見つけるための並列アルゴリズム
- 19. 近隣、町、ダム、リンク関係プロローグプログラムで
- 20. BASH:対 "輸出のk = 1" の違い "K = 1"
- 21. kdツリーからk最近傍を効率的に見つける方法
- 22. ユーザー定義の距離メトリックで学習するscikitsでk最近隣を選択する方法はありますか?
- 23. Sklearnを許可する方法K最近の隣人はカスタム距離メトリックを取ることができますか?
- 24. ソケット近い対のInputStream近い
- 25. LINQのパフォーマンス対辞書<K,V>
- 26. wekaのk-meansアルゴリズムで最適な 'k'を決定する
- 27. C++ k最短経路アルゴリズム
- 28. 最速の最近傍アルゴリズム
- 29. 近隣のすべての町のリストを返すPROLOG
- 30. 近隣セルのCIDとLACが-1の場合
この質問は、機械学習に関するものであり、http://stats.stackexchange.com/ – Shai
にもっと適しているので、話題にはならないと思われます。機械学習はコーディングの一部ではありませんか?これはオープンプラットフォームであり、誰もがコーディングに関連し、人々にブレーンストーミングを要求する限り、自由に質問できます。だから、もしあなたがこのディスカッションを離れて他の人が参加できるようにすることが有用であると分からなければ、 –
私はそれがここに属していないと主張していません、私は単純にhttp://stats.stackexchange.comのような専用のフォーラムでより多くの情報に基づいた視聴者とより良い回答を見つけるだろうと考えています – Shai