CH5.2 模型選擇與架構設計
模型選擇與架構設計
依任務類型（分類/迴歸/非監督/序列）配對合適模型 → 依資料規模（小/中/大型）調整模型複雜度 → 依模型解釋性需求（高解釋性 vs 低解釋性，搭配 SHAP/LIME）→ 依運算資源與部署限制（邊緣裝置 vs 雲端）→ 最終在偏差-變異權衡（Bias-Variance Tradeoff）中取得平衡。
1. 任務類型與模型特性配對
| 任務類型 | 常見情境 | 常用模型 |
|---|---|---|
| 分類（Classification） | 垃圾郵件偵測、疾病診斷、客戶流失預測 | 決策樹/隨機森林（解釋性佳）、SVM（高維小樣本）、神經網路（高度非線性、影像/語音） |
| 迴歸（Regression） | 房價預測、能源消耗預測、業績估算 | 線性迴歸（簡單高解釋性）、決策樹/隨機森林迴歸（非線性與交互效果）、神經網路（大規模高維） |
| 聚類（Clustering） | 客戶分群 | K-Means（球狀且群數已知）、DBSCAN（有噪聲或群大小不均） |
| 降維（Dimensionality Reduction） | 資料壓縮、視覺化 | PCA（保留最大變異、具解釋性）、自編碼器（非線性降維與結構重建） |
| 序列/時間序列 | 股價預測、感測器監控、語音辨識 | RNN/LSTM/GRU（長序列記憶）、時序卷積網路 TCN（長期依賴穩定性）、ARIMA（短期週期性、資料量不大） |
2. 資料規模與模型選擇
| 資料規模 | 建議策略 |
|---|---|
| 小型（數百至數千筆） | 結構簡單、參數少的模型（線性迴歸、邏輯迴歸、決策樹、正則化模型如 Lasso/Ridge），降低過擬合風險；特徵工程重要性提高 |
| 中型（數千至數十萬筆） | 可支持較高表現力模型（隨機森林、XGBoost、LightGBM），並嘗試模型集成與超參數優化 |
| 大型（百萬級以上） | 深度神經網路發揮潛力，特別是非結構化資料（影像/語音/文字）；需具擴展性、支援 GPU/多機訓練的架構 |
3. 模型解釋性需求
| 類型 | 代表模型 | 特性 | 適用場域 |
|---|---|---|---|
| 高解釋性模型 | 線性迴歸、邏輯迴歸、淺層決策樹 | 結構簡單、決策過程可透過係數/分割規則直接解釋 | 醫療診斷、信貸評分、法規監管 |
| 低解釋性模型 | 隨機森林、梯度提升樹、深度神經網路 | 高預測能力但高度非線性、參數眾多，決策過程不易直觀理解 | 需搭配可解釋性技術輔助 |
4. 運算資源與部署限制
| 場景 | 建議策略 |
|---|---|
| 資源受限（IoT、手機 App、邊緣裝置） | 選用結構簡單、參數少、推論快速的演算法（簡單決策樹、邏輯迴歸、壓縮後小型神經網路），可搭配模型剪枝或量化技術 |
| 資源充足（雲端部署、資料中心） | 使用高效能深度模型、模型集成策略，支援複雜前後處理流程 |
| 即時推論需求（金融交易、推薦系統） | 優先考量推論延遲，可搭配 caching、知識蒸餾（Knowledge Distillation）等技術提升即時表現 |
模型選擇與部署應同步規劃，避免訓練完成後才發現模型無法實際上線執行（例如模型體積過大無法放入邊緣裝置、推論延遲不符即時需求）。部署限制應在模型選型階段就納入考量，而非事後補救。
5. 偏差-變異的權衡（Bias-Variance Tradeoff）
模型選擇的核心原則之一，是在偏差（Bias）與變異（Variance）之間取得平衡：
| 概念 | 定義 | 對應現象 |
|---|---|---|
| 偏差（Bias） | 模型對資料結構的擬合能力不足，無法捕捉主要趨勢 | 欠擬合（Underfitting），系統性誤差偏高 |
| 變異（Variance） | 模型對訓練資料的細微差異或雜訊過於敏感 | 過擬合（Overfitting），不同資料集上表現差異大 |
| 模型複雜度 | 偏差 | 變異 | 特性 |
|---|---|---|---|
| 低複雜度（如線性迴歸） | 較高 | 較低 | 穩定、具解釋性，但無法處理複雜關係 |
| 高複雜度（如深度神經網路） | 較低 | 較高 | 可擬合複雜模式，但需更多資料或正則化控制變異 |
「簡單模型偏差高、複雜模型變異高」——模型複雜度像蹺蹺板的支點，複雜度上升，偏差下降但變異上升，模型選擇就是在蹺蹺板上找到泛化能力最佳的平衡點。
📝 章節考題自測（先作答，再點開解答）
Q1. 若需要對外解釋醫療診斷模型的每一個決策依據，下列哪一類模型最適合優先考慮？
(A) 深度神經網路 (B) 邏輯迴歸 (C) 隨機森林 (D) 梯度提升樹
解答與解析
參考 Ans: (B) 邏輯迴歸屬於高解釋性模型，結構簡單，決策過程可透過係數直接解釋，特別適合醫療診斷、信貸評分等需要清楚解釋原因的高風險領域。
Q2. 若企業希望在維持隨機森林高準確度的同時，仍能理解各特徵對預測結果的影響，應搭配下列哪一種技術？
(A) 模型剪枝 (B) 知識蒸餾 (C) SHAP (D) 批次正規化
解答與解析
參考 Ans: (C) SHAP（SHapley Additive exPlanations）是模型可解釋性技術，可輔助理解低解釋性模型（如隨機森林）對特徵的依賴關係，在不犧牲模型效能的前提下提升透明度。
Q3. 在資料量僅有數百筆的小型資料集情境下，下列哪種模型選擇策略較為合適？
(A) 直接使用深度神經網路以求最高準確度 (B) 選擇結構簡單、參數少的模型如線性迴歸或正則化模型 (C) 一律使用 XGBoost (D) 資料量與模型選擇無關
解答與解析
參考 Ans: (B) 樣本有限時，選擇結構簡單、參數少的模型能有效降低過擬合風險，例如線性迴歸、邏輯迴歸、決策樹或正則化模型（Lasso、Ridge），此時特徵工程的重要性也隨之提高。
Q4. 若模型部署於資源受限的邊緣裝置（如 IoT 設備），下列哪種策略較為適合？
(A) 使用最複雜的深度模型以追求最高準確度 (B) 選用結構簡單、參數少、推論快速的模型，並可搭配模型剪枝或量化 (C) 忽略部署限制，訓練完再考慮 (D) 一律使用模型集成策略
解答與解析
參考 Ans: (B) 資源受限場景應選用結構簡單、參數少、推論快速的演算法，並可採用模型剪枝或量化等技術進行模型瘦身，模型選擇與部署應同步規劃，避免訓練完成後才發現無法上線。
Q5. 下列關於偏差（Bias）與變異（Variance）的敘述，何者正確？
(A) 高複雜度模型通常偏差較高、變異較低 (B) 低複雜度模型通常偏差較高、變異較低 (C) 偏差與變異沒有取捨關係 (D) 增加模型複雜度必然同時降低偏差與變異
解答與解析
參考 Ans: (B) 低複雜度模型（如線性迴歸）通常偏差較高、變異較低，穩定但無法處理複雜關係；高複雜度模型則偏差低、變異高，兩者存在固有的取捨關係，模型選擇需在其中取得平衡。
Q6. 若某模型在訓練資料上表現極佳，但在新資料上表現大幅下降，這種現象與下列哪一個概念最直接相關？
(A) 高偏差（欠擬合） (B) 高變異（過擬合） (C) 資料清理不足 (D) 特徵縮放錯誤
解答與解析
參考 Ans: (B) 模型在訓練資料上表現極佳但新資料表現大幅下降，是典型的高變異（過擬合）現象，代表模型對訓練資料的細微差異或雜訊過於敏感，泛化能力不足。
Q7. 對於需要即時反應的推薦系統或金融交易場景，下列哪一種技術有助於提升模型的即時推論效能？
(A) 增加模型層數 (B) 知識蒸餾（Knowledge Distillation） (C) 提高學習率 (D) 增加訓練資料維度
解答與解析
參考 Ans: (B) 知識蒸餾可將大型教師模型的知識轉移至輕量學生模型，在維持接近效能的同時大幅降低推論延遲，適合即時推論需求的場景，如金融交易、推薦系統。