🔑 名詞卡
N-gram
🎯 定義
將語言中連續 N 個詞(或字)組合成一個特徵單位的表示方法,用來保留詞彙的序列與語法結構;N 值愈大能捕捉愈長的上下文範圍,但特徵維度也急劇膨脹。
公式化表示
給定詞序列 \(S=(\omega_1,\omega_2,\dots,\omega_m)\): $\(N\text{-grams}(S,n)=\{(\omega_i,\omega_{i+1},\dots,\omega_{i+n-1}) \mid 1 \le i \le m-n+1\}\)$
示例
S = [I, love, machine, learning]
- Bi-grams:(I, love)、(love, machine)、(machine, learning)
- Tri-grams:(I, love, machine)、(love, machine, learning)
記憶技巧
N-gram 就是「一次看 N 個字的滑動窗口」,N=2 是兩兩一組(Bi-gram),N=3 是三個一組(Tri-gram)。
易混淆
- vs TF-IDF:N-gram 保留詞序,TF-IDF 不考慮詞序,僅計算頻率權重。
📖 課文原文「N-grams:是將語言中的『連續 N 個詞、組合成一個特徵單位』,用來保留詞彙的序列與語法結構。」