首頁 / 名詞卡 / 深度學習/NLP/CV架構 / N-gram

iPAS AI中級🧬 深度學習/NLP/CV架構
🔑 名詞卡

N-gram

🎯 定義

將語言中連續 N 個詞(或字)組合成一個特徵單位的表示方法,用來保留詞彙的序列與語法結構;N 值愈大能捕捉愈長的上下文範圍,但特徵維度也急劇膨脹。

公式化表示

給定詞序列 \(S=(\omega_1,\omega_2,\dots,\omega_m)\): $\(N\text{-grams}(S,n)=\{(\omega_i,\omega_{i+1},\dots,\omega_{i+n-1}) \mid 1 \le i \le m-n+1\}\)$

示例

S = [I, love, machine, learning]

  • Bi-grams:(I, love)、(love, machine)、(machine, learning)
  • Tri-grams:(I, love, machine)、(love, machine, learning)

記憶技巧

N-gram 就是「一次看 N 個字的滑動窗口」,N=2 是兩兩一組(Bi-gram),N=3 是三個一組(Tri-gram)。

易混淆

  • vs TF-IDF:N-gram 保留詞序,TF-IDF 不考慮詞序,僅計算頻率權重。
📖 課文原文

「N-grams:是將語言中的『連續 N 個詞、組合成一個特徵單位』,用來保留詞彙的序列與語法結構。」