CH6.2 演算法偏見與公平性
演算法偏見與公平性
演算法偏見來源分兩層：資料層面（來源偏誤/內容偏誤/製程偏誤）與模型層面（演算法偏見/目標函數偏誤/正規化偏誤）→ 公平性指標（Demographic Parity/Equal Opportunity/Equalized Odds/Disparate Impact）量化不公平程度 → 公平性評估工具（AIF360/Fairlearn）→ 偏見降低三階段技術（資料前處理/模型內部處理/模型後處理）→ 企業公平治理機制（審查委員會、多元團隊、稽核制度、資訊揭露）。
1. 資料代表性與偏誤來源
| 偏誤類型 | 發生階段 | 核心問題 | 例子 |
|---|---|---|---|
| 來源偏誤（Source Bias） | 資料蒐集階段 | 資料無法均衡涵蓋所有應被代表的群體或情境 | 醫療模型缺乏某年齡層數據；語料僅來自北美，模型無法理解亞洲語境 |
| 內容偏誤（Content Bias） | 資料內容/敘事方式 | 資料本身包含刻板印象或歷史不平等 | 將「醫師」預設為男性、「護士」預設為女性；信用審核歷史資料隱含種族歧視 |
| 製程偏誤（Process Bias） | 資料標註/編輯過程 | 人為主觀判斷導致不一致或偏差 | 不同標註者對同一句話的情感判斷不同 |
2. 模型偏見與歧視
即使資料本身具良好代表性，演算法偏見仍可能在訓練或運算過程中被引入或放大：
| 來源 | 說明 |
|---|---|
| 演算法偏見（Algorithmic Bias） | 演算法追求整體預測效能時，可能忽略少數群體需求（如推薦系統依多數使用者偏好生成結果） |
| 目標函數偏誤（Objective Function Bias） | 以整體平均精度為優化目標，未加入公平性約束，可能犧牲特定群體的預測準確度 |
| 正規化與簡化偏誤（Regularization Bias） | 為避免過擬合而簡化變數關聯，可能降低對少數群體特徵的敏感度 |
| 對抗式訓練不足 | 對抗式公平學習設計不完善時，仍可能保留部分偏見 |
即使輸入資料相對平衡，模型本身在訓練或運算過程中仍可能產生不公平的預測結果——這說明公平性治理不能只處理資料層面，必須同時檢視模型演算法本身的設計邏輯（目標函數、正規化策略等）。
偏見的潛在影響
弱勢群體受歧視（就業、金融服務、醫療診斷等領域的差別待遇）、企業品牌與信譽受損、法律與監管風險（違反反歧視法、個資保護法，面臨罰款或訴訟）。
3. 常見公平性指標
| 指標 | 定義 | 比較對象 | 適用情境 | 限制 |
|---|---|---|---|---|
| Demographic Parity（群體平等率） | 不同群體獲得正向預測的比例應大致相同 | 各群體正向預測的整體比例（不論實際資格） | 招聘、入學機會等高度要求結果平等的場景 | 可能為達比例公平犧牲個別預測準確性 |
| Equal Opportunity（機會平等） | 實際應獲得正向預測的個案中，不同群體被正確預測的機率應相同 | 各群體中「真實應被選擇者」的正確預測比例 | 醫療診斷、社會福利核准等確保真正該被服務者不被忽略的任務 | 僅關注正例，未考量負例錯誤比例 |
| Equalized Odds（均衡機率） | 不同群體間 True Positive Rate 與 False Positive Rate 皆需一致 | 各群體的正確預測率與錯誤預測率 | 司法判決、信用評估等同時考量正確率與誤判率公平的敏感領域 | 實務上難以完全達成，可能犧牲整體效能 |
| Disparate Impact（不利影響比） | 若某群體獲得正向結果比例未達另一群體的 80%（80% Rule），可能構成間接歧視 | 群體間獲得正向結果的比例 | 法律合規審查（招聘、公平貸款） | 僅考量結果比例差異，無法指出偏差的具體原因 |
Demographic Parity 強調「結果的均等分配」（不論實際是否符合資格）；Equal Opportunity 強調「真正有資格的人不能被漏掉」（只看正例的正確預測率）；Equalized Odds 則同時要求正例與負例的預測率都一致。三者出發點不同，選擇題常以情境（如醫療診斷需確保真正患病者不被漏診 → Equal Opportunity）測驗辨析能力。
4. 公平性評估工具
5. 降低演算法偏見的三階段技術
| 階段 | 技術 | 定義 | 實例 |
|---|---|---|---|
| 資料前處理 | 資料重新抽樣（Re-sampling） | 增加或減少特定群體資料使分佈均衡 | 招聘模型調整不同性別履歷數量達成平衡 |
| 資料前處理 | 特徵去偏處理（Feature Neutralization） | 移除或調整可能引發偏見的敏感特徵 | 銀行信用評分移除客戶族群特徵 |
| 資料前處理 | 資料匿名化與泛化 | 降低敏感特徵精確性 | 將年齡轉換為年齡區間 |
| 模型內部處理 | 公平性約束訓練（Fairness Constraints） | 訓練時加入公平性指標作為約束條件 | 貸款模型強制約束不同性別核准率相似 |
| 模型內部處理 | 對抗式去偏模型（Adversarial Fairness） | 訓練對抗式網路去預測敏感特徵，迫使主模型學到不受其影響的特徵表現 | 招聘模型使履歷分析結果無法推斷申請者性別 |
| 模型內部處理 | 公平性正規化（Fairness Regularization） | 目標函數中加入公平性損失項 | 信用評分模型加入公平性損失函數，確保各族群錯誤率接近 |
| 模型後處理 | 結果門檻調整（Threshold Adjustment） | 針對不同群體調整正向預測閾值 | 將某群體貸款「核准門檻」從 60 分降到 55 分 |
| 模型後處理 | 結果校準（Calibration） | 不改變閾值，但重新校準不同群體的預測分數，使同一分數具相同意義 | 將某群體貸款「分數」從 60 分校準成 65 分 |
三階段口訣：「資料前處理改資料本身、模型內部處理改訓練過程、模型後處理改輸出結果」。結果門檻調整是「改變判斷標準（閾值）」，結果校準是「改變分數本身但不動閾值」，兩者常在考題中互為誘答選項，務必分清楚。
6. 企業公平治理機制
| 面向 | 具體作法 |
|---|---|
| 建立 AI 公平性治理機制 | 制定公平性政策與標準、設立跨部門公平性審查委員會、明確責任與問責機制（納入高階主管 KPI 或 ESG 報告） |
| 多元化團隊與教育訓練 | 招募多元化團隊成員、推動公平性與倫理培訓 |
| 公平性評估與稽核制度 | 定期公平性稽核（Fairness Audits）、導入公平性指標監控系統與即時警示機制 |
| 資訊揭露與溝通策略 | 主動揭露 AI 公平性報告、引入第三方獨立驗證、與利益關係人保持溝通 |
📝 章節考題自測（先作答，再點開解答）
Q1. 資料集中某語料庫僅來自北美地區，導致模型無法理解亞洲語境，這屬於哪一種資料偏誤類型？
(A) 內容偏誤 (B) 製程偏誤 (C) 來源偏誤 (D) 目標函數偏誤
解答與解析
參考 Ans: (C) 來源偏誤發生在資料蒐集階段，核心問題是資料無法均衡涵蓋所有應被代表的群體或情境，語料文化與語言侷限（僅來自特定地區）是典型例子。
Q2. 若企業想確保 AI 模型在不同群體間「真正該被選擇者」皆有同等機會被正確預測，應採用哪一個公平性指標？
(A) Equal Opportunity (B) Demographic Parity (C) K-Anonymity (D) T-Closeness
解答與解析
參考 Ans: (A) Equal Opportunity 著重在實際應獲得正向結果的個案中，不同群體應具有相同的被正確預測機率，尤其適用於醫療、社會福利等情境；Demographic Parity 則只看整體正向預測比例，不考慮實際資格。
Q3. 在 AI 偏見治理中，對不同群體調整模型預測閾值，屬於哪一種偏見修正方法？
(A) 資料泛化 (B) 結果門檻調整 (C) 模型剪枝 (D) 資料增強
解答與解析
參考 Ans: (B) 結果門檻調整（Threshold Adjustment）屬於模型後處理方式，透過改變不同群體的決策門檻，以平衡模型在不同群體間的預測公平性；若是調整分數本身而非閾值，則屬於「結果校準」。
Q4. 若企業欲在 AI 專案中降低敏感特徵（如性別）對模型的影響，可以採取哪種模型內部處理方式？
(A) 對抗式去偏模型 (B) 模型蒸餾 (C) 雜湊處理 (D) 結果門檻調整
解答與解析
參考 Ans: (A) 對抗式去偏透過訓練一個對抗網路，迫使主模型無法預測敏感屬性，從而降低模型對敏感特徵的依賴，是常見的模型內部公平性處理技術。
Q5. 若資料集中存在群體樣本數不均，造成模型偏向多數群體，適合採用哪種技術？
(A) 權重初始化 (B) 權重衰減 (C) 類別重加權（Class Weighting） (D) 全量訓練
解答與解析
參考 Ans: (C) 類別重加權能在模型訓練時賦予少數類別更高權重，提升模型對少數群體的辨識能力，是處理不平衡資料常見的資料層面技術。
Q6. 若某招聘系統對男女性錄取比例大致相同（不論實際資格條件），但對「真正合格」的女性申請者正確錄取率明顯低於男性，此系統符合下列哪一種公平性指標，卻違反了另一種？
(A) 符合 Demographic Parity，違反 Equal Opportunity (B) 符合 Equal Opportunity，違反 Demographic Parity (C) 兩者皆符合 (D) 兩者皆違反
解答與解析
參考 Ans: (A) 男女錄取「整體比例」相近，符合 Demographic Parity（結果的均等分配）；但「真正合格者」被正確錄取的機率不同，違反了 Equal Opportunity（要求真正有資格的人不能被漏掉）。此題說明兩個公平性指標可能同時無法兼顧，需依應用場景權衡選擇。
Q7. 在 AI 公平性治理中，企業應建立什麼跨部門組織，確保公平性納入日常決策流程？
(A) 模型剪枝委員會 (B) AI 蒸餾中心 (C) 公平性審查委員會 (D) 隨機抽樣團隊
解答與解析
參考 Ans: (C) 公平性審查委員會匯集法務、技術、產品與倫理等部門，負責評估 AI 系統的偏見風險，是企業治理 AI 公平性的重要機制，且應於專案早期即參與，而非僅事後處理。
Q8. IBM AI Fairness 360（AIF360）與 Microsoft Fairlearn 相比，下列敘述何者正確？
(A) Fairlearn 支援的公平性指標與去偏方法數量較 AIF360 多 (B) AIF360 支援超過 70 種公平性指標及多種去偏技術，功能較全面；Fairlearn 則與 scikit-learn 高度相容，較易整合 (C) 兩者皆為商業付費軟體 (D) 兩者僅能用於迴歸任務
解答與解析
參考 Ans: (B) AIF360 支援超過 70 種公平性指標及多種去偏技術，功能全面但整合複雜度較高；Fairlearn 則與 scikit-learn 生態系統高度相容，易於整合但去偏功能較少，適合中小型或輕量化專案。