🔑 名詞卡
Word2Vec
🎯 定義
Google 團隊於 2013 年提出的詞嵌入演算法,透過神經網路訓練將每個詞轉換為具有語意意義的實數向量,屬於靜態、分布式、非語境型詞嵌入。
兩種架構
| 架構 | 原理 | 特性 |
|---|---|---|
| CBOW(Continuous Bag of Words) | 由上下文(周圍詞彙)預測中心詞 | 訓練速度較快,適合小型語料 |
| Skip-gram | 由中心詞預測周圍上下文詞彙 | 對低頻詞更有效,語意捕捉能力更好 |
記憶技巧
king − man + woman ≈ queen——向量之間的加減法可反映語意邏輯關係。