首頁 / 名詞卡 / 導入評估與治理 / WEAT(Word Embedding Association Test)

iPAS AI中級📋 導入評估與治理
🔑 名詞卡

WEAT(Word Embedding Association Test)

🎯 定義

一種用於分析詞向量中隱含偏見的工具,透過測量詞嵌入之間的關聯強度,檢測模型是否無意中學習到社會性偏見(如性別、種族刻板印象)。

應用情境

檢測 Chatbot 是否隱含「男性主管=果斷、女性主管=情緒化」等性別刻板印象,屬於 NLP 模型層風險(模型偏見)的檢測手段之一。

記憶技巧

WEAT=幫詞向量做「偏見健檢」。

易混淆

  • vs 模型幻覺:WEAT 檢測的是「偏見」(立場性傾斜),而非「幻覺」(事實性錯誤),兩者是不同風險類型。
📖 課文原文

「使用 WEAT(Word Embedding Association Test)等工具分析詞向量中的偏見,檢測模型是否無意中學習到社會偏見。」