🔑 名詞卡
隨機森林(Random Forest)
🎯 定義
集成式演算法,透過 Bagging(Bootstrap Aggregating)策略建立多棵決策樹,各在隨機子樣本與隨機特徵子集上訓練,最終以多數決(分類)或平均值(迴歸)產生結果。
重點/應用
- 核心目的:降低變異(Variance),抗過擬合能力強。
- 優點:可處理非線性資料與變數交互作用、可計算特徵重要性、可平行訓練。
- 缺點:屬於黑箱模型,模型體積大、記憶體需求高,預測速度比單棵樹慢。
記憶技巧
「森林比一棵樹更穩:多棵樹各自隨機取樣,投票表決降低單棵樹的偏執」。
易混淆
- vs 梯度提升(Boosting):隨機森林(Bagging)目標是降低變異;梯度提升(Boosting)目標是降低偏差,兩者集成策略方向不同。
📖 課文原文「隨機森林迴歸(Random Forest Regressor)是一種集成式演算法,透過建立多棵決策樹來進行預測⋯最終預測結果是所有樹的預測值平均值,藉此降低單棵樹容易出現的過擬合問題。」