🔑 名詞卡
可解釋性 AI（Explainable AI, XAI）
🎯 定義
讓 AI 模型的決策過程與生成邏輯能被人類理解與追溯的技術研究方向，是解決生成式 AI「黑箱」問題、強化模型透明度與公信力的核心因應手段。
重點
- 要真正實現生成式 AI 的負責任發展，開發者和企業需加強模型透明度，推進可解釋性 AI 技術的研究，並在應用中採取積極的監管措施
- 也用於「風險溯源」：對模型生成過程透明化，確保生成內容的來源和過程可追溯，包括數據輸入、處理邏輯與模型參數的運行情況，實現從數據到結果的全流程透明化
易混淆
- vs 黑箱：黑箱是「問題」（不透明），可解釋性 AI 是「解方」（讓過程可追溯理解）。
📖 課文原文「要真正實現生成式 AI 的負責任發展，開發者和企業需加強模型透明度，推進可解釋性技術（Explainable AI）的研究，並在應用中採取積極的監管措施。」
應用情境（中級科目一補充）
醫療診斷（醫師需理解判斷依據）、金融風控（向主管機關說明風險評分邏輯）、人才招聘/教育（避免歷史偏見造成歧視性決策）、公部門/法務（AI 判斷需具可審查性與問責）。