🔑 名詞卡
黑箱（Black Box）
🎯 定義
形容 AI 系統決策過程不透明、用戶無法輕易理解模型推理過程的特性，是生成式 AI 在倫理與偏見議題中面臨的核心挑戰，會削弱結果可信度並增加企業在倫理層面的壓力。
重點
- 當生成結果出現虛假或有害內容時，責任應由數據提供方、模型開發者還是最終使用者承擔，往往因黑箱特性而變得模糊不清（責任歸屬問題）
- 目前生成式 AI 技術的法律與倫理框架尚未完全成熟，責任歸屬問題已成為發展中不得不面對的核心難題
- 因應之道：加強模型透明度，推進可解釋性AI（Explainable AI）研究，並採取積極的監管措施
⚠️ 易錯點
「黑箱」問題不只是技術限制，更直接牽動責任歸屬的法律與倫理難題，考題常結合「透明性不足」與「責任界定不清」一起出題。
📖 課文原文「AI 系統的決策過程通常被視為『黑箱（Black Box）』，用戶無法輕易理解模型的推理過程，這不僅削弱了結果的可信度，也增加了企業在倫理層面的壓力。」