👤🛒📊
年齡、收入、會員等級、商品類別……好多特徵!
而且有大量稀疏的類別特徵。
Support Vector Machine × Wide & Deep|「找分界線」vs「記住+泛化」
而且有大量稀疏的類別特徵。
模型要能學過去的規律,也希望遇到沒看過的新組合仍能合理預測。
Wide:擅長記住特定組合。
Deep:擅長學習特徵表示、做泛化。
兩邊一起用!
本題關鍵:大量稀疏類別特徵+既有組合記憶+未出現組合的泛化 → Wide & Deep。
不同類別的資料混在平面上。
核心概念:最大化 Margin。
最靠近決策邊界的資料點很重要。
它們就是支援向量。
商品、會員、城市、裝置等類別可能非常多。
轉成高維表示後,大部分位置可能都是 0。
→ 稀疏(Sparse)
Wide 可利用稀疏特徵與特徵交叉。
Deep 學習更一般化的特徵表示。
Wide 部分可透過特徵交叉學習資料中有價值的組合。
考試看到 Memorization,就想到 Wide。
原始特徵先轉成模型能學習的表示。
即使某組合沒有直接出現過,也可利用學到的表示做合理預測。
| 比較 | 🔵 SVM | 🟠 Wide & Deep |
|---|---|---|
| 核心 | 找最佳決策邊界 | 結合記憶與泛化 |
| 關鍵字 | Margin、Support Vector、Kernel | Wide、Deep、Memorization、Generalization |
| 本題描述 | 不是核心架構 | 正好符合 |
| 漫畫 | ⚔️「我找最佳分界線!」 | 🧠「我既記得,又會舉一反三!」 |
歷史資料中某些特徵組合經常一起出現,Wide 可以利用這些組合。
透過學到的特徵表示,對相似但未直接出現的組合進行泛化。
看到「已出現的特徵組合」→ Wide
看到「未出現的特徵組合」→ Deep
看到「稀疏類別特徵+記憶+泛化」→ Wide & Deep
⭐ Wide 記住、Deep 泛化;兩個合起來 Wide & Deep!
A. 線性迴歸
B. 決策樹
C. SVM
D. 寬深模型 Wide and Deep
| 關鍵字 | 立刻想到 |
|---|---|
| Margin/Support Vector | ⚔️ SVM |
| Kernel | ⚔️ SVM |
| 已出現特徵組合 | 📌 Wide/Memorization |
| 未出現特徵組合 | 🌱 Deep/Generalization |
| 稀疏類別+記憶+泛化 | ⭐ Wide & Deep |
⭐ SVM 找分界線;Wide 記住,Deep 泛化;記憶+泛化=Wide & Deep。