iPAS AI 初級・漫畫式小白教材

XAI × LIME

可解釋 AI（Explainable AI）與 LIME｜「AI 說答案，也要說明為什麼！」

🎬 第一幕：AI 說「拒絕貸款」，銀行員傻眼了！

🤖 黑盒 AI

🏦🤖

「這位客戶的貸款申請：❌ 不通過。」

銀行員問：

「為什麼？」

❓ 黑盒問題

🤔❓

「模型只告訴我答案，卻沒有告訴我理由。」

這就是 AI 的可解釋性問題。

💡 XAI 登場

🔎🤖

XAI 希望讓人理解：

「模型為什麼做出這個預測？」

例如哪些特徵影響了結果。

🧠 一句話先背起來

XAI＝「讓人能理解 AI 為什麼做出這個決策。」
LIME＝「在某一筆資料附近，用簡單模型解釋黑盒模型的局部預測。」

XAI 是一個大概念；LIME 是其中一種模型解釋技術。

Explainable AIPost-hocLocal ExplanationModel-agnostic

🎭 第二幕：XAI 到底在解決什麼？

🤖 模型做決定

🧠➡️🎯

輸入很多特徵：

收入、負債、信用紀錄、交易行為……

模型最後輸出：

「拒絕貸款」

🔎 人類追問

🕵️❓

「到底是哪個因素影響最大？」

XAI 的目的，就是把黑盒決策變得比較能理解。

💡 解釋

📊🔍

例如：

負債比高 → 影響較大

信用紀錄 → 影響較小

讓人知道模型判斷的原因。

🥊 第三幕：XAI 的兩大思路

🟢 Intrinsic Interpretability

「模型自己就很好懂。」

模型本身具有較透明的決策結構，例如簡單的決策樹、線性模型等。

模型本身 → 就能看懂

不需要另外建立一個解釋器才能理解基本決策邏輯。

🔵 Post-hoc Explanation

「模型已經訓練好了，再來解釋它。」

對既有模型的輸出進行事後分析，尤其常用來解釋複雜黑盒模型。

黑盒模型 → 預測 → 外部解釋

LIME 就屬於這一類。

🎬 第四幕：LIME 偵探登場！

① 黑盒模型

📦🤖

「我是一個很複雜的模型，裡面你看不懂！」

LIME 不要求知道模型內部怎麼運作。

② 只調查附近

🔍📍

「我先研究這一筆資料附近的情況。」

LIME 的重點是Local（局部）。

③ 找簡單模型解釋

📈🔎

在局部資料附近，用比較容易理解的簡單模型近似黑盒模型。

「我不用解釋整個宇宙，只解釋這一筆附近！」

🔄 第五幕：LIME 怎麼運作？

📍

① 選一筆資料
要解釋的樣本

🎲

② 產生擾動樣本
在附近製造變化

🤖

③ 黑盒模型預測
取得模型輸出

📊

④ 建立簡單模型
近似局部行為

🔎

⑤ 解釋重要特徵
哪些因素影響這次預測

一筆資料 → 附近擾動 → 黑盒預測 → 局部簡單模型 → 找出重要特徵

🕵️ 第六幕：「Local」到底是什麼？

🌍 Global

🌎🤖

想回答：

「這個模型整體是怎麼做決策的？」

像是在研究整座城市的交通規則。

📍 Local

📍🔎

LIME 問的是：

「為什麼這一筆資料被這樣預測？」

像是在研究「這一個路口為什麼塞車」。

⭐ 關鍵

🎯

所以 LIME 的解釋具有局部性。

不能直接把一個局部解釋當成整個模型的完整規則。

🥊 第七幕：LIME vs 其他 XAI 概念

概念	漫畫記憶	核心
Intrinsic Interpretability	🪟「模型本身透明」	模型本身就具有較容易理解的決策結構。
Post-hoc	🔎「模型做完，再解釋」	對已訓練模型提供外部解釋。
LIME	📍「只解釋附近」	在特定樣本附近，用簡單模型近似黑盒模型的局部行為。
Surrogate Model	🧑‍🎓「找替身來模仿」	使用較簡單的模型近似複雜模型；LIME 可視為在局部使用 surrogate model 的方法。

⚠️ 注意：LIME 是一種「後處理（post-hoc）、模型無關（model-agnostic）、局部（local）」的解釋方法。Surrogate Model 是一種方法概念，不能理解成「直接完全取代原黑盒模型」。

🏦 第八幕：銀行案例——LIME 怎麼解釋？

🤖 黑盒模型

客戶 A
→ ❌ 不核貸

模型可能很複雜，人類無法直接看懂內部決策。

🔎 LIME

負債比 ↑　→ 影響較大
收入 ↓　→ 影響中等
信用紀錄　→ 影響較小

這是針對客戶 A 這一筆預測的局部解釋。

💡 重點：LIME 不一定告訴你「整個模型永遠都這樣判斷」，而是幫你理解「這一次預測附近，哪些特徵比較重要」。

⚠️ 第九幕：LIME 最容易考的陷阱

❌ 陷阱 1：「LIME 是模型本身具有透明決策結構。」
錯。LIME 是post-hoc，模型已經存在，再從外部產生解釋。

✅ 陷阱 2：「LIME 可以解釋黑盒模型。」
對。LIME 的 Model-agnostic 特性，重點就是不需要依賴特定模型的內部結構。

❌ 陷阱 3：「LIME 訓練另一個模型完全取代原模型。」
錯。LIME 的簡單模型是用來做局部解釋，不是直接取代原黑盒模型做正式推論。

❌ 陷阱 4：「LIME 能完整說明整個模型的所有規則。」
錯。LIME 的核心是Local，重點是解釋特定樣本附近的模型行為。

🧠 iPAS 考前超強口訣

XAI＝「讓 AI 的決策可以被理解」
LIME＝「黑盒模型旁邊找一個簡單替身，只解釋這一筆附近」

看到「模型本身透明」→ Intrinsic Interpretability

看到「訓練後再解釋」→ Post-hoc

看到「Local＋Model-agnostic＋黑盒模型」→ LIME

⭐ 最終口訣：LIME＝「事後、局部、模型無關的解釋。」

🎯 最後來做你提供的例題

題目：在 XAI 的分類架構中，LIME 屬於哪一類解釋技術？

A. 內建可解釋模型（Intrinsic Interpretability）：模型本身具有透明的決策結構
B. 對話式解釋系統（Conversational AI Explainer）：透過互動對話提供模型解釋
C. 後處理模型解釋（post-hoc）：對已訓練模型提供外部解釋
D. 代理模型技術（Surrogate Model）：訓練另一個簡單模型來完全取代原黑盒模型進行推論

🎯 正確答案：C ✅

LIME 是後處理（post-hoc）的解釋方法：模型先完成訓練與預測，再透過外部程序分析特定預測，產生人類比較容易理解的局部解釋。

它同時具有兩個重要關鍵字：Local（局部）與Model-agnostic（模型無關）。

❌ A：錯
Intrinsic 是「模型本身就具有透明結構」。LIME 並不是模型內建的透明決策結構，而是模型訓練後才進行解釋。

❌ B：錯
題目描述的是對話式解釋系統，並不是 LIME 的分類重點。LIME 的核心關鍵是 post-hoc、local、model-agnostic。

✅ C：對
「對已訓練模型提供外部解釋」就是 post-hoc explanation 的核心特徵。

❌ D：錯
LIME 確實會在局部使用簡單模型作為 surrogate model 來近似黑盒模型，但這個簡單模型是拿來解釋，不是完全取代原模型進行正式推論。

⭐ 考試看到：LIME → Post-hoc ＋ Local ＋ Model-agnostic

📌 考前最後一張小抄

題目關鍵字	立刻想到
模型本身透明	🟢 Intrinsic Interpretability
訓練完成後再解釋	🔵 Post-hoc
黑盒模型也能解釋	🔎 Model-agnostic
只解釋某一筆／附近	📍 Local Explanation
用簡單模型近似複雜模型	🧑‍🎓 Surrogate Model
Local＋Model-agnostic＋Post-hoc	⭐ LIME
讓 AI 決策更容易理解	💡 XAI

⭐ 最終口訣：
「XAI 是大傘；LIME 是傘下的一種方法：事後解釋、局部分析、模型無關。」