🔑 名詞卡
WEAT(Word Embedding Association Test)
🎯 定義
一種用於分析詞向量中隱含偏見的工具,透過測量詞嵌入之間的關聯強度,檢測模型是否無意中學習到社會性偏見(如性別、種族刻板印象)。
應用情境
檢測 Chatbot 是否隱含「男性主管=果斷、女性主管=情緒化」等性別刻板印象,屬於 NLP 模型層風險(模型偏見)的檢測手段之一。
記憶技巧
WEAT=幫詞向量做「偏見健檢」。
易混淆
- vs 模型幻覺:WEAT 檢測的是「偏見」(立場性傾斜),而非「幻覺」(事實性錯誤),兩者是不同風險類型。
📖 課文原文「使用 WEAT(Word Embedding Association Test)等工具分析詞向量中的偏見,檢測模型是否無意中學習到社會偏見。」