🔑 名詞卡
決策樹(Decision Tree)
🎯 定義
透過一系列「如果…那麼…」判斷規則,將資料依特徵分割成不同群組的監督式學習演算法,可用於分類(Decision Tree Classifier)或迴歸(Decision Tree Regressor)。
重點/應用
| 分裂依據 | 說明 |
|---|---|
| 基尼不純度(Gini Impurity) | 衡量節點混雜程度,越小越集中於單一類別 |
| 資訊增益(Information Gain) | 依熵(Entropy)變化衡量分裂後不確定性降低多少 |
| 分類誤差 | 節點內樣本分錯比例 |
優點:不需特徵標準化、可處理類別/數值混合特徵、易解釋。缺點:容易過擬合、模型不連續(分段常數)、對資料微小變動敏感。
記憶技巧
「決策樹像流程圖,從根節點問到葉節點給答案」。
易混淆
- vs 隨機森林:隨機森林是多棵決策樹的集成(Bagging),能有效降低單棵樹容易過擬合的問題。
📖 課文原文「決策樹分類器就像一個流程圖,從根節點(Root Node)開始,根據特徵值進行判斷,逐步向下分裂,直到到達葉節點(Leaf Node)。」