👤💳🏦
銀行 AI 看了很多特徵：
收入、負債、繳款紀錄、信用歷史……
「整套解釋工具」vs「每個特徵到底貢獻多少？」
銀行 AI 看了很多特徵：
但分析師追問：
SHAP 把模型的預測拆開來看：
⭐ 考試最重要：SHAP 是框架；Shapley 值是其中用來分配特徵貢獻的核心概念。
SHAP＝解釋框架 Shapley Value＝貢獻值 單一樣本解釋SHAP 不是單純一個「數字」。
它是一套用來理解機器學習模型預測行為的解釋框架。
把模型的一個預測結果拆開：
可以用來理解個別預測，也可以彙整多筆資料觀察特徵影響。
核心精神：把模型預測拆成特徵貢獻。
想像大家一起完成一個任務。
Shapley Value 來自合作賽局的概念。
核心想法是：
把「成員」想成特徵。
把「成果」想成模型預測。
→ 得到各特徵對預測的貢獻。
先有一個基準預測。
不同特徵會讓預測：
所有特徵的貢獻一起形成這位申請人的最終模型預測。
代表這個特徵讓模型輸出相對基準往較高方向移動。
信用風險案例中，可以理解成該特徵讓預測風險往上推。
代表這個特徵讓模型輸出相對基準往較低方向移動。
信用風險案例中，可以理解成該特徵讓預測風險往下拉。
| 比較 | 🔎 SHAP Framework | ⚖️ Shapley Value |
|---|---|---|
| 它是什麼？ | 一套模型解釋框架／方法 | 衡量特徵邊際貢獻的核心概念 |
| 在做什麼？ | 提供分析與呈現模型預測的解釋方式 | 把預測結果的貢獻分配給不同特徵 |
| 問法 | 「我要怎麼解釋這個模型？」 | 「這個特徵對這次預測貢獻多少？」 |
| 漫畫 | 🧰「整套解釋工具箱」 | ⚖️「公平算每個隊友貢獻」 |
某位申請人的各項資料。
模型判定：高風險。
SHAP 找出各特徵對這次預測的貢獻方向與程度。
看到「某一筆／某一位」→ 想「這次預測各特徵貢獻多少？」
SHAP 值往上 → ⬆️ 推高模型輸出；SHAP 值往下 → ⬇️ 拉低模型輸出（依題目輸出定義判斷）。
⭐ 最終口訣：SHAP 是工具箱，Shapley 值是貢獻分數！
A. 各特徵在模型訓練過程中對結果穩定性的影響程度
B. 此申請人的各項特徵，分別讓風險評分上升或下降的影響程度
C. 各特徵在所有客戶資料中對整體預測準確度的影響程度
D. 各特徵在模型中被使用的頻率
| 看到題目關鍵字 | 立刻想到 |
|---|---|
| SHAP Framework | 🔎 模型解釋框架 |
| Shapley Value | ⚖️ 特徵貢獻值 |
| 某一位申請人／某一筆資料 | 📍 單一預測的特徵貢獻 |
| 讓預測上升或下降 | ⬆️⬇️ SHAP 貢獻方向 |
| 特徵貢獻多少 | ⚖️ Shapley Value |
| 特徵被使用頻率 | ❌ 不是 SHAP 值的核心 |
⭐ SHAP：解釋模型怎麼想。
Shapley 值：算每個特徵對這次答案貢獻多少！