模型微調（Fine-tuning）

重點

• 常與 提示工程並列，同屬「個人化生成與可控性提升」發展方向下的兩大手段。
• 搭配參數調整與風格選擇功能，可提升內容精準度與多樣性；也常搭配領域知識整合，提供更符合產業需求的應用。

易混淆

• vs 提示工程：模型微調需要用額外資料調整模型參數本身（訓練成本較高、效果較持久）；提示工程僅透過輸入端的提示詞設計引導輸出，不改動模型參數。
• vs LoRA：LoRA 是一種「輕量化」微調技術，只新增少量低秩參數而非調整整體模型，屬於 Fine-tuning 的高效變體。

NLP 中的角色（中級科目一補充）

「預訓練再微調（Pre-train and Fine-tune）」已成為 NLP 主流範式：先在大規模語料上做通用預訓練（如 BERT、GPT），再針對特定下游任務用少量標註資料微調，大幅降低開發與訓練門檻。

📖 課文原文

「模型微調（Fine-tuning）與提示工程（Prompt Engineering），讓用戶能根據特定需求調整生成結果。」 「基於 Transformer 的預訓練語言模型⋯⋯先在大規模語料庫上進行預訓練，再進行微調（Fine-tuning）以適應特定的下游任務。」

出處