🔑 名詞卡
XGBoost（eXtreme Gradient Boosting）
🎯 定義
梯度提升（GBDT）的高效工程實作版本，強調運算效率與正則化，採用二階導數（Hessian）資訊加速最佳分裂點搜尋，並內建 L1/L2 正則化防止過擬合。
重點／應用
- 生長策略：層級式生長（Level-wise）——在同一深度上同時分裂所有葉節點，樹橫向擴展。
- 支援稀疏資料結構、缺失值自動處理。
- 優點：高運算效率、良好特徵重要性分析；缺點：超參數多、解釋力有限（黑箱）。
記憶技巧
「XGBoost 一層一層平均長高（Level-wise）」。
易混淆
- vs LightGBM：XGBoost 為 Level-wise（層級式）生長；LightGBM 為 Leaf-wise（葉子式）生長，是最容易混淆的比較考點。
📖 課文原文「XGBoost（eXtreme Gradient Boosting）⋯採用『層級式生長』Level-wise 策略。在同一深度上同時分裂所有葉子節點。」