TF-IDF（Term Frequency-Inverse Document Frequency）
一種文字特徵轉換方法，結合「詞頻（TF）」與「文件稀有性（IDF）」，用於突出關鍵詞、降低常見詞（如「的」「是」）對分析結果的影響。
重點／應用
- TF（Term Frequency）：計算詞在單一文件中的出現頻率，反映詞的重要性。
- TF-IDF：在 TF 基礎上乘上逆文件頻率（IDF），若某詞在所有文件中都很常見，其權重會被壓低；若某詞只在少數文件中出現但頻繁，權重則會提高。
- 屬於文字分析中「特徵轉換」階段的傳統方法，與嵌入式方法（Word2Vec、GloVe）、深度語意嵌入（BERT）並列為三大類特徵轉換技術。
記憶技巧
TF 看「這個詞在這篇文章出現幾次」，IDF 看「這個詞在多少篇文章裡都出現過（越多篇出現代表越不特別）」，兩者相乘才能找出「這篇文章特有的關鍵字」。
易混淆
- vs Transformer／BERT：TF-IDF 是基於詞頻統計的傳統方法，不考慮語意與上下文；BERT 等 Transformer 模型則能捕捉上下文語意，生成高維語意向量，適合更複雜的情感分析等任務。
NLP 技術光譜中的定位（中級科目一 CH3.1 補充）
在 NLP 詞彙向量化技術演進中，TF-IDF 屬於「統計型表示」，介於純離散表示（One-hot、Bag of Words）與分布式詞嵌入（Word2Vec）之間：不考慮詞序與上下文，但比 One-hot／BoW 多了「跨文件稀有度」的權重概念。
公式： $\(TF(t,d) = \frac{\text{詞 } t \text{ 在文檔 } d \text{ 中的出現次數}}{\text{文檔 } d \text{ 的總詞數}}\)\( \)\(IDF(t,D) = \log\left(\frac{|D|}{|\{d \in D : t \in d\}|}\right)\)\( \)\(\text{tf-idf}(t,d,D) = TF(t,d) \times IDF(t,D)\)$
範例：語料庫 1000 篇文件，「AI」只出現在 10 篇中；某文件共 100 詞、「AI」出現 3 次。則 \(TF=0.03\)，\(IDF=\log(100)\approx 2\)，\(\text{tf-idf}=0.06\)。
📖 課文原文「TF-IDF（Term Frequency-Inverse Document Frequency）：結合詞頻和文獻稀有性，突出關鍵詞，降低常見詞的影響。」 （CH3.1）「tf-idf 是一種統計方法，通過『詞在單一文件中的出現頻率（tf）』與『該詞在整體語料庫中的罕見程度（idf）』結合，來衡量一個詞彙對於文本的資訊價值。」