首頁 / 名詞卡 / 機器學習核心 / 特徵選擇(Feature Selection)

iPAS AI中級⚙️ 機器學習核心
🔑 名詞卡

特徵選擇(Feature Selection)

🎯 定義

從所有可用的原始特徵中,篩選出一個最佳子集的過程,以降低資料維度,同時保留足以讓模型準確預測的關鍵資訊;此過程不創造新特徵,而是從既有特徵中「選擇」。

重點/應用

方法原理優點限制
Filter(過濾法)用統計量/相關係數獨立於模型篩選速度快、不依賴模型無法考慮特徵交互作用
Wrapper(包裝法)用模型表現作標準(如 RFE)精確考量特徵互動計算成本高,易過擬合
Embedded(嵌入法)訓練過程中內建選擇機制(決策樹重要性、Lasso)建模同時完成選擇需特定模型支援

記憶技巧

Filter 快但粗、Wrapper 準但貴、Embedded 邊建模邊選——三選一時考慮計算成本與模型依賴度。

易混淆

  • vs 特徵工程:特徵工程涵蓋轉換/建構/編碼/選擇的整個流程;特徵選擇只是其中「挑選子集」的步驟。
  • vs PCA:PCA 是降維(透過線性組合產生新特徵),特徵選擇是從原始特徵中挑選子集,不產生新特徵。
📖 課文原文

「特徵選擇(Feature Selection)便是指從所有可用的原始特徵中,篩選出一個最佳的子集的過程⋯這個過程不創造新的特徵,而是從現有特徵中進行『選擇』。」