首頁 / 名詞卡 / 導入評估與治理 / PETs(Privacy-Enhancing Technologies,隱私強化技術)

iPAS AI中級📋 導入評估與治理
🔑 名詞卡

PETs(Privacy-Enhancing Technologies,隱私強化技術)

🎯 定義

在保護隱私的同時確保模型性能與數據可用性的進階技術總稱,適用於高度敏感領域(醫療、金融)的 AI 訓練與資料分享情境。

四大 PETs 比較

技術核心作法優點限制
K-匿名 / L-多樣性 / T-接近性讓每筆資料在準識別欄位上「藏在人群裡」結構化資料保護顯著、易實現對非結構化資料效果有限;K 值過高損失精度
差分隱私加入嚴格控制的隨機噪音,使單筆資料存在與否對結果影響微乎其微提供數學保證,結構化與非結構化皆適用噪音降低模型精度;計算成本高
聯邦學習本地訓練、僅上傳參數更新原始資料不外流,支援分散式傳輸成本高;需防參數逆向推導攻擊
同態加密在密文上直接運算全程加密,密碼學強保證計算效率低(尤其 FHE),需高效能硬體

記憶技巧

四句話定位:K-匿名「藏在人群裡」/差分隱私「加噪音」/聯邦學習「資料不動模型動」/同態加密「加密狀態下直接算」。

易混淆

  • vs 資料匿名化:基礎匿名化(遮蔽/雜湊/泛化/分桶/擾動)簡單易用但保護有限;PETs 為進階技術,用於高敏感情境。
  • PETs 興起的原因是重識別攻擊(連結攻擊、差分識別分析)與生成式 AI 模型的「記憶問題」日益嚴重。
📖 課文原文

「隨著重識別攻擊(如連結攻擊、差分識別分析)和生成式 AI 模型記憶問題的增加,進階隱私強化技術成為高度敏感領域(如醫療、金融)的首選。」