首頁 ／ 名詞卡 ／ 統計與資料分析 ／ 線性迴歸（Linear Regression）

iPAS AI中級📊 統計與資料分析
🔑 名詞卡

線性迴歸（Linear Regression）

🎯 定義

機器學習中最基礎的監督式學習模型之一，透過一條直線或多維超平面描述自變數與應變數間的線性關係：\(y=\beta_0+\beta_1x_1+\cdots+\beta_nx_n+\varepsilon\)，以最小平方估計求解迴歸係數。

重點／應用

  • 模型假設：線性關係、誤差常態分佈、變異數齊一性、誤差獨立性、無多重共線性。
  • 使用限制：對離群值敏感、無法捕捉非線性關係、多重共線性會使係數不穩定。
  • 延伸：加入 L1 正則化 →Lasso；加入 L2 正則化 →Ridge。
  • 評估指標：MSE、RMSE、MAE、決定係數 R²。

記憶技巧

幾何上，線性迴歸 = 把資料「投影」到一個最接近實際結果的平面上。

易混淆

  • vs 邏輯迴歸：線性迴歸預測連續數值，邏輯迴歸雖名為迴歸但實為分類演算法。
  • vs Ridge / Lasso：兩者是線性迴歸加上正則化項的變形，用於處理共線性/高維特徵選擇問題。
📖 課文原文

「線性迴歸（Linear Regression）是機器學習中最基礎且最具代表性的監督式學習模型之一，其核心目的在於找出一條『最佳擬合線』，用以描述輸入變數與目標變數之間的線性關係。」

出處

CH3.2_線性代數之機器學習基礎應用CH4.2_常見機器學習演算法