ランダムフォレスト

ランダムフォレストは、おおよそ次のような手順で求めることができる。

  1. 訓練データから n サンプルを復元抽出し、これをブートストラップ標本とする。
  2. ブートストラップ標本を使って決定木を構築する。
    1. ブートストラップ標本の m 個の特徴量の中から d 個の特徴量を非復元抽出する。
    2. 情報利得を最大化することにより決定木を構築する。
  3. 手順 1-2 を k 回繰り返す。
  4. k 本の決定木を使って、未知のデータ(あるいは評価データ)に対して予測を行い、多数決により予測結果を出力する。