ランダムフォレスト

ランダムフォレストについて

タグ ランダムフォレスト バギング アンサンブル学習

概要

  • 弱学習機をスタッキングして学習するアルゴリズム
  • アダブーストと比較してスタッキングとバギングの違いがある

学習のステップ

1. 弱学習機を作る

  • ブートストラッピングで適当にデータをサンプルする
  • 決定木の決め方は最もよく分類できる値(ジニ不純度が最小)で切る切り方である

2. $k+1$$の学習機を作成する

  • 再度ブートストラッピングを行い1.の手順を繰り返す

3. 1 ~ nまでの弱学習機を用いて強学習機をつくる

\[f(x) = sign \left\{ \sum_{k=1}^{n} f_k(x) \right\}\]

参考