🔑 名詞卡
SVR(Support Vector Regression,支援向量迴歸)
🎯 定義
SVM 的延伸,用於處理迴歸問題。核心概念是在誤差容忍範圍(ε-tube)內忽略誤差,只關注超出範圍的誤差,藉此提升對離群值的抵抗力。
重點/應用
\[\min_{w,b,\xi,\xi^*}\frac{1}{2}\|w\|^2+C\sum_{i=1}^n(\xi_i+\xi_i^*)\]
- \(C\):懲罰參數,控制模型複雜度與對誤差的容忍度。
- \(\varepsilon\):誤差容忍範圍。
- 可搭配核函數(如 RBF)處理非線性迴歸問題。
- 假設較少,不強制線性關係、不需誤差常態分佈,但計算成本高、不適合極大規模資料。
記憶技巧
「一般迴歸想讓所有誤差都變小,SVR 只在乎超出容忍範圍(ε-tube)的誤差」。
易混淆
- vs SVM:SVM 用於分類,SVR 是其迴歸版本,兩者共享核函數與間隔最大化的核心思想。
📖 課文原文「SVR 與傳統線性迴歸不同,SVR 不追求最小化所有點的平方誤差,而是盡可能忽略誤差小於 ε 的資料點,只關注誤差超過 ε 的點,藉此提升對離群值的抵抗力。」