🔑 名詞卡
ELMo（Embeddings from Language Models）
🎯 定義
AllenNLP 團隊於 2018 年提出的語境型詞嵌入方法，基於雙向 LSTM（BiLSTM）語言模型，能依語境動態生成詞向量。
重點
- 技術基礎：BiLSTM 語言模型。
- 特點：可整合進現有模型中，增強語意表示能力。
- 應用：語法分析、情感分類、命名實體辨識。
記憶技巧
ELMo 是語境型詞嵌入的「前輩」，用 BiLSTM 而非 Transformer——比 BERT 早一步解決多義詞問題，但架構較舊、無法平行運算。