🔑 名詞卡
模型對齊（Alignment）
🎯 定義
使 AI 模型的行為與輸出結果符合人類價值觀、意圖與安全規範的技術與研究方向，是生成式 AI 未來發展的核心趨勢之一。
記憶技巧
Alignment＝讓 AI 的行為「對齊」人類期望的方向，而非任其自由發揮。
易混淆
- vs RLHF：RLHF 是達成模型對齊的一種具體訓練技術，模型對齊是更上位的目標/研究方向。
📖 課文原文「未來生成式 AI 將更重視『對齊性』（Alignment）與『防濫用機制』，例如結合回饋式強化學習（RLHF）、紅隊測試（Red Teaming）等技術，強化輸出內容的安全性與合規性。」