iPAS AI 初級・進階漫畫式教材

Fine-tuning vs RAG

一個教 AI「怎麼做事」，一個讓 AI「查得到資料」！

🎬 第一幕：公司要做一個「內部 AI 助理」

① 老闆的要求

🏢🤖

「我要 AI 回答都像我們公司的人！」

語氣、格式、回答習慣要一致。

② 另一個問題

📄📄📄

「而且每天都有新文件，AI 要查得到！」

知識每天都會變。

③ 兩位高手登場

🎓 🔎

Fine-tuning：「我教你固定的做事方式。」

RAG：「最新資料交給我查！」

🧠 一句話先分清楚

🎓 Fine-tuning 微調

「把模型訓練成更符合特定任務、格式、行為或風格。」

用特定任務資料進一步訓練既有模型，使模型的參數產生調整，讓它更穩定地學會特定的輸出模式。

行為風格任務能力格式

🔎 RAG

「模型不用把新知識硬塞進參數，回答前先去資料庫找。」

先檢索外部或內部資料，再把相關內容放進上下文，讓模型根據這些資料生成答案。

最新知識文件知識庫即時更新

🎓 Fine-tuning＝教「怎麼做」　｜　🔎 RAG＝找「現在有什麼資料」

🎭 第二幕：用「員工訓練」秒懂

🎓 Fine-tuning 像「員工訓練」

👩‍🏫

教方法

📝

大量範例

🧠

學習

🤖

形成習慣

例如教 AI：「我們公司的商品描述永遠採用這種語氣與格式。」

🔎 RAG 像「查公司 Wiki」

❓

問題

🔎

搜尋

📚

找到文件

💬

回答

例如：「今天最新的退貨規則是什麼？」直接查最新文件。

⚔️ 第三幕：Fine-tuning 跟 RAG 到底差在哪？

比較	🎓 Fine-tuning	🔎 RAG
主要解決	模型的行為、任務、風格、格式等調整	讓模型回答時能取得特定／外部／較新的知識
怎麼做	用訓練資料更新模型參數	檢索資料後放進上下文再生成
新增文件後	若要把知識直接學進參數，通常需要再訓練／微調	更新知識庫即可，通常不需重新訓練模型
適合	固定風格、特定任務、固定輸出模式、領域行為	常更新文件、企業知識庫、需要依據來源回答
維護成本	重新訓練有成本，需要資料與訓練流程	知識更新通常較靈活，但檢索品質很重要
核心口訣	「教它怎麼做」	「讓它查得到」

📚 第四幕：為什麼「每天新增文件」通常不要一直 Fine-tune？

每天 Fine-tune

📄 → 🧠

每天把新文件塞進模型重新訓練。

🤖：「又要上課了？」

每天更新 RAG

📄 → 🔎 → 🤖

新文件直接進知識庫。

🤖：「今天的新資料我查到了！」

最佳組合

🎓 + 🔎

固定的語氣／行為 → Fine-tuning

每天變動的文件 → RAG

⭐ 最佳實務思路：把「穩定的東西」與「會一直變的東西」分開處理。模型行為可以用 Fine-tuning 固定；每日更新的知識交給 RAG 管理。

🏢 第五幕：套進你熟悉的能源管理

🎓 Fine-tuning 情境

希望 AI 永遠用「建築能效工程師」的語氣回答，並固定輸出：

① 問題 → ② 原因 → ③ 改善方案 → ④ 預估效益

👉 固定行為／格式 → Fine-tuning 很適合

🔎 RAG 情境

每天新增：

BERS 文件
最新公司 SOP
最新電價資料
新的設備規格

👉 知識一直更新 → RAG 很適合

🥊 第六幕：把 Fine-tuning、RAG、Temperature 放在一起

你想解決什麼？	優先想到	漫畫記憶
「我要 AI 固定用公司語氣」	🎓 Fine-tuning ＋ Prompt／Few-shot	「把 AI 教成公司員工」
「每天都有新文件」	🔎 RAG	「每天去 Wiki 查」
「同一問題回答不要差太多」	🌡️ 較低 Temperature＋良好 Prompt	「把 AI 的隨機性轉小」
「我要最新文件內容」	🔎 RAG	「不要靠記憶，去查資料」
「我要固定任務能力」	🎓 Fine-tuning	「反覆訓練形成能力」

🎯 第七幕：你這題的四個選項逐一拆解

❌ A. 每週重新 Fine-tune，將新文件整合進模型知識
問題：每天新增文件的知識更新不需要一直重新訓練模型。這會增加訓練與維護成本，也不是 RAG 的優勢所在。

❌ B. 完全依靠基礎模型與 RAG，不 Fine-tune
雖然 RAG 可以處理每日更新文件，但題目還要求「回覆語氣一致」。如果已經有穩定、明確的風格需求，Fine-tuning 可以保留作為行為／風格調整的一部分；因此 B 不如 D 完整。

❌ C. 每日增量 Fine-tune
問題最大。每天都重新讓模型學新文件，維護成本高，也沒必要；每日變動知識應優先交給 RAG。

✅ D. 保留語氣相關 Fine-tuning，僅透過檢索系統更新文件內容
完美符合題目：固定的語氣 → Fine-tuning；每天變動的文件 → RAG；避免頻繁重新訓練 → 維持長期維護與效能平衡。

🧠 iPAS 考前超強口訣

🎓 Fine-tuning＝「教 AI 怎麼做」
🔎 RAG＝「讓 AI 知道現在有什麼」
🌡️ Temperature＝「控制 AI 講話有多隨機」

⭐ 「固定的東西 Fine-tune，會變的東西 RAG，隨機性用 Temperature 控。」

看到「每天新增文件、即時更新、避免重新訓練」→ RAG
看到「固定風格、固定任務、固定格式、特定行為」→ Fine-tuning

🎯 最後一題：你來判斷

① 公司希望 AI 永遠用同一種客服口吻回答。

👉 Fine-tuning（也可搭配 Prompt／Few-shot 等方法）。

② 公司每天會新增 500 份內部文件，而且文件內容會持續更新。

👉 RAG。

③ 公司希望同一商品描述不要每次都寫得差很多。

👉 降低 Temperature，並搭配清楚的風格 Prompt。

④ 公司希望「固定公司語氣」＋「每天查最新文件」。

👉 Fine-tuning ＋ RAG！這正是本題 D 的核心。

⚠️ 補充：Fine-tuning 不等於「把所有新知識永久塞進模型」；RAG 也不等於「一定完全正確」。實務上還要看資料品質、檢索品質、模型能力與評估機制。

📌 考前最後一張小抄

題目看到	答案
固定風格、語氣、任務行為	🎓 Fine-tuning
最新文件、每日新增資料	🔎 RAG
避免頻繁重新訓練	🔎 把變動知識交給 RAG
降低回答隨機性	🌡️ 降低 Temperature
固定風格＋最新知識＋長期維護	🏆 Fine-tuning ＋ RAG

⭐ 最終口訣：
「Fine-tune 教習慣，RAG 查新知，Temperature 控隨機。」