🐱📷
「這是一隻貓！」
深度學習模型完成一次預測。
「AI 到底在看圖片的哪裡？」——用熱區找出影響單次預測的重要區域！
深度學習模型完成一次預測。
我們想知道：圖片的哪些區域對這次判斷比較重要？
把對這個預測較敏感、較重要的區域標示出來。
模型收到完整輸入。
分析輸入的哪些部分對目前這次預測比較有影響。
把重要程度視覺化。
→ 越顯著的區域，代表對這次預測越值得關注。
Saliency Map 可以協助理解：這一次判斷中，輸入的哪些區域比較重要。
題目如果問「所有資料平均而言，每個特徵影響多少」，那就不是 Saliency Map 的核心描述。
| 描述 | 是不是 Saliency Map？ | 判斷 |
|---|---|---|
| 標示一張輸入圖片中，對某次預測影響較大的區域 | ✅ | 核心用途 |
| 計算各特徵對整體模型準確度的平均影響 | ❌ | 不是本題描述 |
| 比較不同模型架構的泛化能力 | ❌ | 屬於模型評估問題 |
| 比較不同參數設定下預測穩定性 | ❌ | 屬於模型／參數評估問題 |
先有一個模型輸出結果。
分析輸入對這個預測的敏感程度。
用視覺化方式標示值得關注的區域。
就不要直接選 Saliency Map。
單一預測 🎯 → 找重要區域 🔍 → Saliency Map 🗺️
圖片／輸入區域＋顯著熱區 → 想 Saliency Map
⭐ 「整體平均影響」不是本題關鍵；「單一預測的重要區域」才是！
A.量化各輸入特徵對模型整體預測準確度的平均影響程度
B.標示輸入資料中對單一預測結果影響較大的區域或部分
C.評估在不同模型參數設定下，預測結果的穩定性變化
D.比較不同模型架構在測試資料上的泛化能力差異
| 看到題目 | 立刻想到 |
|---|---|
| 單一預測結果 | 🎯 Saliency Map |
| 哪個區域比較重要 | 🔥 Saliency Map |
| 圖片中的顯著熱區 | 🗺️ Saliency Map |
| 整體平均特徵影響 | ❌ 不要直接選 Saliency Map |
| 模型泛化能力比較 | ❌ 模型評估 |
| 不同參數的穩定性 | ❌ 參數／模型評估 |
⭐ Saliency Map：不是問「整體誰最重要」，而是問「這一次預測，AI 到底在看哪裡？」