🔑 名詞卡
公平性指標(Fairness Metrics)
🎯 定義
用來衡量不同群體之間,在 AI 模型預測結果上是否存在系統性差異的量化指標,選用哪個指標取決於應用場景、業務目標與法規要求。
重點/應用
| 指標 | 定義 | 適用情境 |
|---|---|---|
| Demographic Parity(群體平等率) | 不同群體獲得正向預測的比例應大致相同 | 招聘、入學機會 |
| Equal Opportunity(機會平等) | 實際應獲得正向預測者,不同群體被正確預測的機率應相同 | 醫療診斷、社福核准 |
| Equalized Odds(均衡機率) | 不同群體的 TPR 與 FPR 皆需一致 | 司法判決、信用評估 |
| Disparate Impact(不利影響比) | 群體正向結果比例未達 80% Rule 可能構成間接歧視 | 法律合規審查 |
記憶技巧
「Demographic Parity 看『整體比例』;Equal Opportunity 看『真正合格者』;Equalized Odds 兩者都要看」。
易混淆
- vs 演算法偏見:公平性指標是量化工具,演算法偏見是被量化的問題現象。
- Demographic Parity 與 Equal Opportunity 可能同時符合一個、違反另一個,需依情境權衡選擇(見 CH6.2 情境題)。
📖 課文原文「『公平』並不是單一概念,而是需要明確的衡量標準與工具,才能有效檢驗模型在不同群體間是否存在不公平的差異。」