🔑 名詞卡
人類回饋強化學習（Reinforcement Learning from Human Feedback, RLHF）
🎯 定義
結合人類回饋（反饋）的強化學習技術，用於在模型訓練階段調整生成結果，使其更貼近用戶需求。
重點
- 常與預訓練、模型微調、少樣本學習等技術搭配，共同提升生成模型的適應性與精準度。
- 屬於生成式AI「技術突破」的一環，是讓大型語言模型行為更符合人類偏好的關鍵訓練方法。
易混淆
- vs 提示工程：RLHF 發生在訓練階段，透過人類回饋調整模型本身；提示工程發生在使用（推論）階段，不改動模型參數。
📖 課文原文「加上人類回饋（反饋）強化學習（Reinforcement Learning from Human Feedback, RLHF），可使生成結果更貼近用戶需求。」
技術趨勢中的定位（中級科目一補充）
屬於生成式 AI 未來趨勢「模型對齊與安全防護機制進化」的核心技術之一，常與紅隊測試（Red Teaming）並列，用以強化模型輸出的安全性與合規性、降低內容真偽與偏見放大等風險。