首頁 / 名詞卡 / 深度學習/NLP/CV架構 / FastText

iPAS AI中級🧬 深度學習/NLP/CV架構
🔑 名詞卡

FastText

🎯 定義

Facebook AI Research(FAIR)於 2016 年提出的詞嵌入技術,將每個詞視為子詞(subword n-gram)組成的集合進行向量學習,能處理未見過的新詞(OOV, Out-of-Vocabulary)。

原理

將詞切割成 n-gram 子詞(如 "playing"→"pla","lay","ayi","yin","ing"),學習各子詞向量後加總/平均得到整詞向量。

記憶技巧

FastText=拆成「零件(子詞)」學習,即使沒看過整個新詞,也能靠零件拼湊出意思。

易混淆

  • vs Word2Vec:Word2Vec 以「整詞」為單位學習,無法處理未登錄詞;FastText 以「子詞」為單位,能處理 OOV 新詞。
📖 課文原文

「FastText 是由 Facebook AI Research(FAIR)團隊於 2016 年提出的詞嵌入技術,其核心概念是將每個詞視為子詞(subwords)組成的集合,進行向量表示學習。這種方法讓模型能夠處理從未見過的新詞(OOV)。」