Adaboostを使ったデシジョンツリー/スタンプ

Question

Adaboostでデシジョンツリーについて学習し始めたばかりで、OpenCVで試してみて、いくつか質問があります。

ブースト決定木

私は理解している私は、決定木でアダブーストを使用する場合、Iトレーニングデータの再重み付けバージョンへの継続的適合デシジョンツリー。分類は加重多数投票により行われます

Adaboostを使用して意思決定ツリーをトレーニングする場合は、代わりにブートストラップを使用できますか？すなわち、分類器をAdaboostに供給する前に、データセットのサブセットを選択し、各サブセットのツリーを訓練する。

後押し決定切り株

私は意思決定切り株のために同じ技術を使用していますか？または、代わりに機能の数に等しいスタンプを作成できますか？私。 10個のフィーチャを持つ2つのクラスがある場合は、各フィーチャに対して10個のDecision Stumpsを作成してから、そのクラスをAdaboostに送ります。

Answer 1

AdaBoostは異なるサブセットで分類器を訓練するだけでなく、達成されたアセンブルパフォーマンスに応じてデータセット要素の重みを調整します。詳細な説明はhereです。

はい、同じテクニックを使用して、決定切手を訓練することができます。アルゴリズムはおよそ次のようになります。

1. 重みのない初期データセット（重み= 1の各要素と同じ）に決定断端を訓練します。
2. AdaBoostアルゴリズムの式を使用して、すべての要素の重みを更新します。正しく分類された要素の重みは小さくなり、誤って分類された重みは大きくなります。
3. 現在の重みを使用して決定断端をトレーニングします。つまり、この決定切手によって行われたミスの数だけでなく、ミスの重みの合計を最小限に抑えます。
4. 希望の品質が得られなかった場合は、ptを参照してください。 2.