iPAS AI 初級・漫畫式小白教材

RAG vs Temperature

一個解決「AI 不知道」，一個控制「AI 怎麼說」！

🎬 第一幕：電商老闆遇到兩種問題

問題①：AI 不知道最新資料

📚❓

「我們最新的商品規格、庫存、退貨規則，你知道嗎？」

這是知識問題 → 想到 RAG！

問題②：AI 太會亂變

🤖🎨

「同一個商品，今天寫正式，明天寫浮誇……」

這是生成隨機性問題 → 想到 Temperature！

兩位高手

🔎 🤝 🌡️

RAG：「我幫你找正確資料。」

Temperature：「我控制回答有多敢變化。」

🧠 先背這一句就不會搞混

🔎 RAG

「AI 不知道 → 先去找資料，再回答。」

RAG（Retrieval-Augmented Generation）把外部或企業內部知識檢索結果放進模型上下文，協助生成答案。

知識補充文件查詢最新資料

🌡️ Temperature

「AI 知道了 → 控制它回答得保守還是發散。」

Temperature 是生成模型的採樣控制參數之一；一般而言，較低的 temperature 讓輸出更集中、較高則增加隨機性與多樣性。

隨機性多樣性生成風格

🔎 第二幕：RAG 是「AI 的資料室」

📚 什麼時候用 RAG？

當問題的答案「不在模型原本的知識裡」或需要依據特定文件時。

公司內部 SOP
最新產品規格
BERS 手冊
最新法規／政策
企業自己的資料庫

🎭 漫畫：AI 去圖書館

老闆：「最新退貨規則是什麼？」

🤖 → 📚 → 🔎 → 💬

AI：先從知識庫找相關文件 → 把找到的內容放進上下文 → 再回答。

🎯 記憶：RAG 解決的是「資料／知識從哪裡來」，不是用來直接控制回答有多隨機。

🌡️ 第三幕：Temperature 是「AI 的創意旋鈕」

同一個 Prompt，不同 Temperature

「請幫我寫一段咖啡商品描述。」

🌡️ 低 Temperature：比較穩定、保守、用詞較一致

🌡️ 中 Temperature：穩定中帶一些變化

🌡️ 高 Temperature：比較有變化、創意與不可預測性

低 → 較穩定｜高 → 較多樣

🛒 第四幕：回到你的考題——為什麼答案是 C？

題目：某電商平台希望生成的商品描述在風格與用詞上保持一致性，但不需要新增專業知識。下列哪種方法最適合？

A. 擴充語料庫並微調模型，使風格統一
B. 增加提示詞複雜度，引導模型風格一致
C. 降低生成溫度，以減少隨機性並提升風格一致性
D. 使用全連接神經網路對生成結果後期篩選

🎯 正確答案：C

題目有兩個超重要線索：
① 「風格與用詞保持一致」 → 要降低輸出的隨機性
② 「不需要新增專業知識」 → 不需要 RAG，也不需要先擴充知識庫

所以最直接的方法就是：降低 Temperature。

🥊 第五幕：RAG、Temperature、Prompt 到底怎麼選？

你遇到的問題	最先想到	為什麼
「AI 不知道公司最新 SOP」	🔎 RAG	需要把外部／內部知識找進上下文
「AI 不知道最新產品規格」	🔎 RAG	需要最新、指定資料來源
「AI 常常亂編內部文件內容」	🔎 RAG＋良好檢索／引用設計	先提供可靠的相關資料，再要求依據資料回答
「商品描述每次風格差很多」	🌡️ 降低 Temperature	降低生成隨機性，讓輸出更穩定
「希望文案更有創意、更有變化」	🌡️ 提高 Temperature（視模型支援）	增加生成多樣性
「要求 AI 扮演品牌文案專家」	🎭 Role Prompting	用提示詞指定角色與任務情境
「希望固定輸出 JSON」	📦 Structured Output	控制輸出格式

🏢 第六幕：套進你熟悉的能源管理

📚 情境 A：查 BERS 手冊

「請根據公司提供的 BERS 文件回答 AHU 的定義。」

👉 需要指定文件內容 → RAG

📝 情境 B：寫節能建議

「同一種格式，產生 100 棟大樓的改善建議。」

👉 要求穩定、一致 → 可考慮較低 Temperature＋清楚 Prompt

🔎 情境 C：最新電價

「根據最新台電電價資料分析這棟大樓。」

👉 最新外部資料 → RAG／檢索

🎨 情境 D：產生節能宣傳文案

「同一主題產生 10 種有創意的標題。」

👉 想要多樣性 → 可考慮較高 Temperature

🧠 iPAS 考前超強口訣

🔎 RAG＝「AI 不知道，去找資料」
🌡️ Temperature＝「AI 知道了，控制怎麼講」

看到「最新資料、外部文件、企業知識庫」→ RAG
看到「隨機性、多樣性、創意、穩定一致」→ Temperature

⭐ 最重要：
RAG 是「知識問題」；Temperature 是「生成隨機性問題」。

🎯 iPAS 模擬題

Q1：公司希望 AI 回答問題時參考最新的內部規章，應優先考慮？

✅ RAG：把指定知識庫內容檢索後提供給模型。

Q2：電商希望同一批商品描述的語氣與用詞更穩定，不需要增加新知識，應優先考慮？

✅ 降低 Temperature：降低生成隨機性，通常有助於輸出更穩定。

Q3：想讓 AI 一次產生 20 個完全不同、富有創意的廣告標題，哪個參數方向比較合理？

✅ 較高 Temperature（在模型支援且品質仍可接受的前提下）：增加輸出多樣性。

⚠️ 注意：Temperature 不是「風格控制器」。它主要控制生成的隨機性／多樣性；真正要固定品牌語氣，通常還要搭配清楚的 Prompt、範例（Few-shot）或結構化輸出。

📌 考前最後一張小抄

題目關鍵字	答案
最新資料／公司內部文件／知識庫	🔎 RAG
需要外部知識補充	🔎 RAG
降低隨機性	🌡️ 降低 Temperature
提高多樣性／創意	🌡️ 提高 Temperature
風格一致＋不需要新增知識	🌡️ 降低 Temperature（本題 C）
固定品牌語氣	🎭 Prompt／Few-shot＋適當 Temperature

⭐ 最終口訣：
「RAG 管資料，Temperature 管隨機。」