首頁 / 名詞卡 / 統計與資料分析 / SVR(Support Vector Regression,支援向量迴歸)

iPAS AI中級📊 統計與資料分析
🔑 名詞卡

SVR(Support Vector Regression,支援向量迴歸)

🎯 定義

SVM 的延伸,用於處理迴歸問題。核心概念是在誤差容忍範圍(ε-tube)內忽略誤差,只關注超出範圍的誤差,藉此提升對離群值的抵抗力。

重點/應用

\[\min_{w,b,\xi,\xi^*}\frac{1}{2}\|w\|^2+C\sum_{i=1}^n(\xi_i+\xi_i^*)\]
  • \(C\):懲罰參數,控制模型複雜度與對誤差的容忍度。
  • \(\varepsilon\):誤差容忍範圍。
  • 可搭配核函數(如 RBF)處理非線性迴歸問題。
  • 假設較少,不強制線性關係、不需誤差常態分佈,但計算成本高、不適合極大規模資料。

記憶技巧

「一般迴歸想讓所有誤差都變小,SVR 只在乎超出容忍範圍(ε-tube)的誤差」。

易混淆

  • vs SVM:SVM 用於分類,SVR 是其迴歸版本,兩者共享核函數與間隔最大化的核心思想。
📖 課文原文

「SVR 與傳統線性迴歸不同,SVR 不追求最小化所有點的平方誤差,而是盡可能忽略誤差小於 ε 的資料點,只關注誤差超過 ε 的點,藉此提升對離群值的抵抗力。」