首頁 / 名詞卡 / 機器學習核心 / 決策樹(Decision Tree)

iPAS AI中級⚙️ 機器學習核心
🔑 名詞卡

決策樹(Decision Tree)

🎯 定義

透過一系列「如果…那麼…」判斷規則,將資料依特徵分割成不同群組的監督式學習演算法,可用於分類(Decision Tree Classifier)或迴歸(Decision Tree Regressor)。

重點/應用

分裂依據說明
基尼不純度(Gini Impurity)衡量節點混雜程度,越小越集中於單一類別
資訊增益(Information Gain)依熵(Entropy)變化衡量分裂後不確定性降低多少
分類誤差節點內樣本分錯比例

優點:不需特徵標準化、可處理類別/數值混合特徵、易解釋。缺點:容易過擬合、模型不連續(分段常數)、對資料微小變動敏感。

記憶技巧

「決策樹像流程圖,從根節點問到葉節點給答案」。

易混淆

  • vs 隨機森林:隨機森林是多棵決策樹的集成(Bagging),能有效降低單棵樹容易過擬合的問題。
📖 課文原文

「決策樹分類器就像一個流程圖,從根節點(Root Node)開始,根據特徵值進行判斷,逐步向下分裂,直到到達葉節點(Leaf Node)。」