🔑 名詞卡
Ridge（嶺迴歸）
🎯 定義
在線性迴歸損失函數中加入 L2 正則化項（權重平方和）的迴歸方法：\(\text{Loss}=\sum(y_i-\hat{y}_i)^2+\lambda\sum\beta_j^2\)，防止模型產生過大係數，特別適合多重共線性嚴重的情況。
重點／應用
- 名稱由來：加入 L2 限制後，解沿某種「脊線（Ridge）」分佈，幾何上落在橢圓/橢球範圍內。
- 適用：資料存在多重共線性、變數數量遠大於樣本數（高維資料）。
- 限制：不會將係數壓縮為零，無法自動進行特徵選擇。
記憶技巧
「L2 用平方限制，讓權重縮小，但不直接變 0」。
易混淆
- vs Lasso：Ridge 只縮小權重不歸零；Lasso 會把不重要的權重壓到 0，自動特徵選擇。
📖 課文原文「嶺迴歸（Ridge Regression）：在損失函數中加入 L2 正則化項（權重平方和），防止模型產生過大的係數，特別適合多重共線性嚴重的情況。」