生成式人工智慧(Generative AI)
一種強大的自然語言處理模型,透過龐大的參數數量,能夠根據使用者提供的提示詞,生成出連貫、有意義的文本回應(或圖像、語音、影片等其他素材)。CH3.4 的定義角度:透過學習數據的聯合分佈 \(P(x,y)\) 或邊際分佈 \(P(x)\) 來生成新數據樣本,目標是模擬真實數據分佈、創造具真實感且多樣化的新樣本。
運作原理
根據輸入的提示詞,模型會在經過大量文本訓練後所建立的「文字機率分布」中,尋找最可能接續的文字,並以此方式逐字生成回應。參數越多,模型就越能捕捉語言的細微差異,生成更豐富多樣的回應。
生成式 AI 使用者會基於提示工程(Prompt Engineering)持續反覆調整輸入提示,直到任務解決為止;其「基於相同輸入產生不同輸出」的固有變異性(Inherent Variance),是它與 鑑別式AI 最主要的區隔。
訓練流程兩階段
| 階段 | 內容 |
|---|---|
| 訓練階段 | 數據準備(蒐集/清洗/預處理)→ 模型選擇與搭建(GAN、VAE、Transformer)→ 模型訓練(損失函數、優化器如 Adam/SGD、迭代訓練) |
| 微調階段 | 特定任務優化(調整超參數、添加特定層)+數據精調(特定數據集、數據增強) |
效能關鍵因素
數據品質、模型結構、超參數設置、計算資源。
代表模型與挑戰(CH3.4 補充)
與鑑別式 AI 的整合應用
生成式 AI 的數據生成能力與鑑別式 AI 的分類預測能力相輔相成:GAI 模擬真實數據分佈、解決數據稀缺或不平衡問題,DAI 則對生成數據進一步分類、預測與分析。例如醫療影像分析中,GAN 生成病變模擬影像用於訓練鑑別式模型,提升腫瘤辨識的泛化能力。整合挑戰包括訓練穩定性(可用 Wasserstein GAN 改善)、數據偏差與公平性、整合架構設計。
對 No Code / Low Code 平台的提升(CH3.1/科目二 補充)
1. 自動生成程式碼 2. 模板設計優化 3. 數據分析與決策 4. AI 驅動的 UI/UX 設計 5. 自動化行銷文案生成 6. 個人化 App 快速開發
重要里程碑
ChatGPT 於 2022 年 11 月正式向公眾推出,掀起生成式 AI 的重大科技革命浪潮。
AI 發展階段中的定位(中級科目一補充)
依 NVIDIA(2025 CES)觀點,AI 發展分四階段:感知AI(理解資訊)→ 生成式 AI(創造內容)→ 代理式AI(推理規劃執行任務)→ 物理AI(真實世界操控互動)。生成式 AI 是 AI 從「分析工具」轉向「主動創造價值」的關鍵轉捩點。
技術演進五階段(中級科目一補充)
VAE/RNN(2013–2015,生成模糊)→ GAN 時代(2014–2020,對抗訓練)→ Transformer 崛起(2017 起,自注意力)→ 擴散與多模態(2020 起)→ 巨型模型與 Agent 化(2023 起)。
易混淆
- vs 人工智慧:生成式 AI 只是 AI 的其中一種類型(生成型 AI),不能代表 AI 整體。
- vs 深度學習:生成式 AI 通常以深度學習模型(如 Transformer、GAN、VAE)為基礎技術實現。
- vs 鑑別式AI:GAI 學 \(P(x,y)\) 或 \(P(x)\),目標是「創造」新內容;DAI 學 \(P(y|x)\),目標是「判斷」分類。GAI 的訓練挑戰是模式崩潰/梯度消失,DAI 的訓練挑戰是數據偏見/過擬合/標記成本。
📖 課文原文「生成式人工智慧的訓練過程主要分為兩個階段:(1)訓練階段……(2)微調階段:在預訓練模型的基礎上,使用特定領域或任務的數據進行進一步訓練,以提升模型在特定任務上的表現。」
(CH3.4)「生成式 AI 則專注於學習數據的聯合分佈 P(x,y)或邊際分佈 P(x),並能生成具有創新性的新數據樣本。」
(科目二 CH3.1)「生成式 AI 是人工智慧的一個重要分支,其核心特徵在於透過模型的學習能力生成新內容,而非僅僅分析或辨識現有數據。」