CH4.1 機器學習原理與技術
機器學習原理與技術
機器學習系統架構 = 輸入資料與特徵空間 → 任務目標與標籤型態(分類/迴歸/聚類/降維/序列決策)→ 模型與假設空間 → 損失函數形式化學習目標 → 資料分割與評估準則 → 三大學習範式(監督式學習/非監督式學習/強化學習)各自的架構、任務類型、訓練流程與應用場景。
1. 機器學習系統的核心構成
機器學習本質上是涵蓋「任務類型」「學習目標」「資料假設」「模型訓練」「評估過程」的複合流程。
(1) 輸入資料與特徵空間
輸入資料可能來自結構化表格、文字、影像、語音或感測器資料,須經前處理轉換為向量或矩陣。特徵空間(Feature Space)是每筆資料由各特徵構成的多維空間,每個樣本是空間中的一個點,其幾何分佈特性(密集程度、邊界形狀)直接影響模型能否有效分類、預測或分群。
(2) 任務目標與標籤型態
| 任務類型 | 說明 | 標籤型態 |
|---|---|---|
| 分類(Classification) | 預測樣本所屬類別 | 離散型(如 0、1 或多類別) |
| 迴歸(Regression) | 預測連續數值 | 實數 |
| 聚類(Clustering) | 無標籤情況下依相似度分群 | 無標籤 |
| 降維(Dimensionality Reduction) | 高維資料映射至低維度 | 無標籤 |
| 序列決策(Sequential Decision) | 連續互動情境中採取行動以最大化長期報酬 | 動態回饋 |
(3) 模型與假設空間
模型是將輸入映射為預測結果的數學函數,不同模型類型對資料背後的分佈與結構隱含不同假設,稱為假設空間(Hypothesis Space):線性模型假設樣本可用線性邊界區分;決策樹假設可透過條件規則分類;神經網路傾向透過非線性結構學習抽象表示。學習的核心任務,就是從整個假設空間中找出泛化能力最佳的函數。
(4) 學習目標與損失函數
透過損失函數將預測與實際結果的誤差量化,是整個學習流程的關鍵評價機制:迴歸任務常用 MSE、MAE;分類任務常用交叉熵損失。
(5) 資料分割與評估準則
| 資料集 | 用途 |
|---|---|
| 訓練集(Training Set) | 模型參數的學習 |
| 驗證集(Validation Set) | 調整超參數與監控過擬合 |
| 測試集(Test Set) | 最終評估模型表現的依據 |
評估指標依任務選擇:分類任務用準確率、精確率/召回率、F1 分數;迴歸任務用 MAE、MSE、決定係數(R²)。
驗證集用來調整超參數與監控過擬合,測試集只在訓練完全結束後使用一次,用來模擬模型上線後面對未知資料的真實表現,兩者角色不可混用,這是機器學習流程設計的核心紀律。
2. 三大學習範式比較
| 比較項目 | 監督式學習 | 非監督式學習 | 強化學習 |
|---|---|---|---|
| 資料型態 | 標註資料(Labeled Data) | 無標籤資料 | 與環境互動產生的經驗 |
| 核心目標 | 學習輸入到輸出的映射函數 | 發現潛在結構、模式或分佈 | 最大化長期累積報酬 |
| 主要任務 | 分類、迴歸 | 聚類、降維、關聯規則、表示學習 | 策略學習、價值學習 |
| 代表應用 | 郵件分類、房價預測、信用風險評估 | 客戶分群、異常偵測、主題模型 | 遊戲 AI、自駕車、推薦系統即時優化 |
(1) 監督式學習
每筆訓練資料由輸入特徵與目標標籤組成,模型任務是找出能近似真實對應關係的函數。典型訓練流程:資料準備與標記 → 模型訓練 → 驗證與調整(超參數)→ 測試與部署。
(2) 非監督式學習
在無標籤資料下發現潛在結構、模式或分佈特性,輸出通常是分組歸類、降維投影或潛藏變數估計,而非具體預測值。
| 評估方式 | 說明 |
|---|---|
| 內部評估指標 | 依資料本身結構特徵評估,如 Silhouette Score(輪廓係數)、Davies-Bouldin 指數、重建誤差 |
| 外部評估指標 | 若有部分標籤可參考,可用 Rand Index、Adjusted Mutual Information(AMI) |
(3) 強化學習
強化式學習問題可形式化為馬可夫決策過程(Markov Decision Process, MDP),基本組成:
| 元素 | 說明 |
|---|---|
| 代理人(Agent) | 執行動作並從經驗中學習 |
| 環境(Environment) | 代理人互動的外部系統 |
| 狀態(State) | 代理人於某時刻觀察到的環境資訊 |
| 動作(Action) | 代理人在特定狀態下可採取的行為 |
| 報酬(Reward) | 環境對代理人行為的回饋 |
| 策略(Policy) | 代理人根據狀態選擇動作的規則 |
| 價值函數(Value Function) | 衡量狀態或狀態-動作對的長期獎勵期望值 |
任務類型可依學習方式分為:策略學習(Policy Gradient)、價值學習(Q-Learning)、模型式學習(Model-Based RL)、模型無關學習(Model-Free RL);亦可依決策空間分為離散動作空間與連續動作空間。
強化學習的評估方式不同於分類/迴歸的靜態指標,需透過模擬或實際環境測試長期績效(平均累積報酬、成功率、策略穩定性與收斂速度),不能直接套用 Accuracy、MSE 等靜態指標。
📝 章節考題自測(先作答,再點開解答)
Q1. 機器學習中,若輸入資料沒有標註,欲探索潛在的群組或模式,應屬於哪種學習類型?
(A) 監督式學習 (B) 半監督式學習 (C) 非監督式學習 (D) 強化式學習
解答與解析
參考 Ans: (C) 非監督式學習不依賴標註資料,主要目的是從資料中發現潛在結構、模式或分佈,如分群、降維,是探索性資料分析的重要工具。
Q2. 在監督式學習中,當模型要預測一個連續數值時,這種任務稱為什麼?
(A) 分類 (B) 迴歸 (C) 聚類 (D) 降維
解答與解析
參考 Ans: (B) 迴歸(Regression)是預測連續數值的任務,如房價預測、氣溫預測;分類則是預測離散類別結果。
Q3. 驗證集(Validation Set)在機器學習流程中主要用途為何?
(A) 最終評估模型上線表現 (B) 調整超參數與監控過擬合 (C) 訓練模型的主要參數 (D) 儲存原始資料備份
解答與解析
參考 Ans: (B) 驗證集用來調整超參數(如學習率、正則化係數)並監控過擬合,測試集才是保留給最終效能評估的資料集,兩者用途不可混淆。
Q4. 強化學習中的「代理人根據當前狀態選擇動作的規則」稱為什麼?
(A) 價值函數 (B) 報酬 (C) 策略(Policy) (D) 狀態轉移機率
解答與解析
參考 Ans: (C) 策略(Policy)是代理人根據當前狀態選擇動作的規則,代理人的學習目標是調整策略,使長期累積報酬最大化。
Q5. 下列何者屬於非監督式學習的內部評估指標,不需要外部標籤即可計算?
(A) F1-score (B) ROC-AUC (C) Silhouette Score(輪廓係數) (D) Accuracy
解答與解析
參考 Ans: (C) Silhouette Score 依資料本身的結構特徵評估分群效果,屬於內部評估指標;F1-score、ROC-AUC、Accuracy 皆需要標籤資訊,屬於監督式學習常用指標。
Q6. 若要評估一個強化學習代理人的表現,下列哪一項最適合作為評估指標?
(A) 均方誤差(MSE) (B) 平均累積報酬(Average Reward per Episode) (C) 準確率(Accuracy) (D) 決定係數(R²)
解答與解析
參考 Ans: (B) 強化學習的評估需透過模擬或實際環境測試長期績效,平均累積報酬是最典型的評估指標,MSE、Accuracy、R² 皆是監督式學習靜態任務的評估指標,不適用於強化學習的動態決策情境。
Q7. 下列哪一組合正確描述了假設空間(Hypothesis Space)的概念?
(A) 假設空間指的是訓練資料集的大小 (B) 假設空間是模型對資料分佈結構所隱含的假設集合,決定模型能表示的函數範圍 (C) 假設空間僅適用於非監督式學習 (D) 假設空間等同於損失函數
解答與解析
參考 Ans: (B) 假設空間是模型類型對資料背後分佈與結構所隱含的假設(如線性模型假設線性可分、決策樹假設條件規則可分類),學習任務即是從假設空間中找出泛化能力最佳的函數。