首頁 / 教材庫 / 機器學習基礎 / SVM vs 寬深模型

iPAS AI初級 機器學習基礎 ⏱ 約 5 分鐘讀完
iPAS AI 初級・漫畫式小白教材

SVM vs 寬深模型

Support Vector Machine × Wide & Deep|「找分界線」vs「記住+泛化」

🎬 第一幕:零售店的 AI 難題

🛒 顧客資料
👤🛒📊
年齡、收入、會員等級、商品類別……好多特徵!

而且有大量稀疏的類別特徵。

🧩 新舊組合
🧩❓
「這個特徵組合以前出現過嗎?」

模型要能學過去的規律,也希望遇到沒看過的新組合仍能合理預測。

🧠 Wide & Deep
↔️🧠

Wide:擅長記住特定組合。

Deep:擅長學習特徵表示、做泛化。

兩邊一起用!

🧠 一句話先背起來

Wide & Deep=「Wide 記住過去,Deep 學習泛化。」
SVM=「找一條能把不同類別分開的最佳決策邊界。」

本題關鍵:大量稀疏類別特徵+既有組合記憶+未出現組合的泛化 → Wide & Deep。

🎭 第二幕:SVM 是「找最佳分界線」高手

🔵 vs 🔴
🔵🔵 🔴🔴

不同類別的資料混在平面上。

⚔️ 找分界
🔵 | 🔴
「我要找一條邊界,讓兩邊盡可能分開!」

核心概念:最大化 Margin。

📍 Support Vectors
🔵📍🔴

最靠近決策邊界的資料點很重要。

它們就是支援向量。

🧩 第三幕:什麼叫「稀疏類別特徵」?

🏷️ 類別很多
👕👟📱🍔

商品、會員、城市、裝置等類別可能非常多。

📊 One-hot
⬜⬜⬛⬜⬜

轉成高維表示後,大部分位置可能都是 0。

→ 稀疏(Sparse)

🧠 Wide & Deep
↔️➕🧠

Wide 可利用稀疏特徵與特徵交叉。

Deep 學習更一般化的特徵表示。

🎬 第四幕:Wide 在「寬」什麼?

📌 歷史組合
🛒❤️📱
「買過球鞋+喜歡運動品牌」→ 常買運動服
↔️ Wide
🧩↔️🧩

Wide 部分可透過特徵交叉學習資料中有價值的組合。

📌 Memorization
🧠📌

考試看到 Memorization,就想到 Wide。

🌱 第五幕:Deep 在「深」什麼?

📦 特徵
🏷️📊

原始特徵先轉成模型能學習的表示。

🧠 多層網路
🧠➡️🧠➡️🧠
「我學習更複雜、抽象的特徵關係!」
🌱 Generalization
🧩➡️🌱

即使某組合沒有直接出現過,也可利用學到的表示做合理預測。

🔄 第六幕:Wide & Deep 一起工作

① 📊 特徵
類別+數值
② ↔️ Wide
Memorization:學習既有特徵交叉
③ 🧠 Deep
Generalization:學習特徵表示
Wide(Memorization)+ Deep(Generalization)→ Prediction

🥊 第七幕:SVM vs Wide & Deep 到底差在哪?

比較🔵 SVM🟠 Wide & Deep
核心找最佳決策邊界結合記憶與泛化
關鍵字Margin、Support Vector、KernelWide、Deep、Memorization、Generalization
本題描述不是核心架構正好符合
漫畫⚔️「我找最佳分界線!」🧠「我既記得,又會舉一反三!」

⚠️ 第八幕:四個選項的考試陷阱

❌ A 線性迴歸:核心是線性關係與連續數值預測,不是本題的「記憶+泛化」雙路架構。

❌ B 決策樹:可處理類別與數值特徵,也能學非線性關係,但不是本題描述的 Wide/Deep 雙路架構。

❌ C SVM:核心考點是 Margin、Support Vectors、Kernel 與決策邊界,不是「Wide 記憶+Deep 泛化」。

✅ D Wide & Deep:Wide 負責 Memorization;Deep 負責 Generalization,正好符合題目需求。

🏪 第九幕:實際應用

📌 Wide:我看過,我記得

歷史資料中某些特徵組合經常一起出現,Wide 可以利用這些組合。

Memorization

🌱 Deep:我沒看過,也能推

透過學到的特徵表示,對相似但未直接出現的組合進行泛化。

Generalization

🧠 iPAS 考前超強口訣

Wide=📌 Memorization(記憶)
Deep=🌱 Generalization(泛化)

看到「已出現的特徵組合」→ Wide

看到「未出現的特徵組合」→ Deep

看到「稀疏類別特徵+記憶+泛化」→ Wide & Deep

⭐ Wide 記住、Deep 泛化;兩個合起來 Wide & Deep!

🎯 最後來做你提供的例題

題目:某零售企業建置模型預測顧客購買機率,資料含大量稀疏類別特徵與數值型特徵;模型希望學習已出現的特徵組合,也能對未出現的組合合理預測。哪一種最適合?

A. 線性迴歸
B. 決策樹
C. SVM
D. 寬深模型 Wide and Deep

🎯 正確答案:D ✅

關鍵字:大量稀疏類別特徵+已出現組合+未出現組合。

Wide & Deep 的核心正是:Wide=Memorization;Deep=Generalization。
❌ A:不是本題所強調的記憶+泛化架構。
❌ B:雖能處理不同特徵,但不是 Wide & Deep 的雙路設計。
❌ C:SVM 重點是決策邊界、Margin、Support Vectors。
✅ D:Wide 記住歷史特徵交叉,Deep 學習表示並泛化到新組合。
⭐ 看到「記住+泛化」→ Wide & Deep

📌 考前最後一張小抄

關鍵字立刻想到
Margin/Support Vector⚔️ SVM
Kernel⚔️ SVM
已出現特徵組合📌 Wide/Memorization
未出現特徵組合🌱 Deep/Generalization
稀疏類別+記憶+泛化⭐ Wide & Deep

⭐ SVM 找分界線;Wide 記住,Deep 泛化;記憶+泛化=Wide & Deep。