🔑 名詞卡
SHAP（SHapley Additive exPlanations）
🎯 定義
一種模型可解釋性技術，源自賽局理論的 Shapley Value 概念，用於計算每個特徵對模型單一預測結果的貢獻度，協助理解低解釋性模型（如隨機森林、深度神經網路）的決策邏輯。
重點／應用
- 常搭配隨機森林、梯度提升樹、神經網路等黑箱模型使用，在不犧牲效能的前提下提升透明度。
- 適用於醫療、金融或法規敏感等高風險應用場景，輔助理解模型對特徵的依賴關係。
記憶技巧
「SHAP 把預測結果『拆帳』給每個特徵，公平分配每個特徵的功勞/責任」。
易混淆
- vs LIME：SHAP 基於賽局理論的 Shapley Value，理論保證較嚴謹；LIME 透過在預測點附近建立局部可解釋的代理模型，計算通常更快但理論保證較弱。
📖 課文原文「在醫療、金融或法規敏感等高風險應用場景中，建議搭配模型可解釋性技術使用，例如 SHAP（SHapley Additive exPlanations）⋯以輔助理解模型對特徵的依賴關係與輸出邏輯。」