首頁 / 名詞卡 / 導入評估與治理 / 公平性指標(Fairness Metrics)

iPAS AI中級📋 導入評估與治理
🔑 名詞卡

公平性指標(Fairness Metrics)

🎯 定義

用來衡量不同群體之間,在 AI 模型預測結果上是否存在系統性差異的量化指標,選用哪個指標取決於應用場景、業務目標與法規要求。

重點/應用

指標定義適用情境
Demographic Parity(群體平等率)不同群體獲得正向預測的比例應大致相同招聘、入學機會
Equal Opportunity(機會平等)實際應獲得正向預測者,不同群體被正確預測的機率應相同醫療診斷、社福核准
Equalized Odds(均衡機率)不同群體的 TPR 與 FPR 皆需一致司法判決、信用評估
Disparate Impact(不利影響比)群體正向結果比例未達 80% Rule 可能構成間接歧視法律合規審查

記憶技巧

「Demographic Parity 看『整體比例』;Equal Opportunity 看『真正合格者』;Equalized Odds 兩者都要看」。

易混淆

  • vs 演算法偏見:公平性指標是量化工具,演算法偏見是被量化的問題現象。
  • Demographic Parity 與 Equal Opportunity 可能同時符合一個、違反另一個,需依情境權衡選擇(見 CH6.2 情境題)。
📖 課文原文

「『公平』並不是單一概念,而是需要明確的衡量標準與工具,才能有效檢驗模型在不同群體間是否存在不公平的差異。」