首頁 / 名詞卡 / 深度學習/NLP/CV架構 / Vision Transformer(ViT)

iPAS AI中級🧬 深度學習/NLP/CV架構
🔑 名詞卡

Vision Transformer(ViT)

🎯 定義

一種創新的影像處理模型,採用與 NLP 領域相似的 Transformer 架構(而非卷積)來處理影像數據,突破了傳統 CNN 在電腦視覺領域的主導地位。

重點

屬於電腦視覺「多模態與生成式 AI 融合階段」(2020–至今)代表技術之一。

記憶技巧

ViT=把圖片切成小塊(patch),當成「句子裡的詞」一樣,用 Transformer 的 Self-Attention 處理。

易混淆

  • vs CNN:CNN 用卷積逐層提取局部特徵;ViT 用 Self-Attention 一次考慮整張影像各區塊間的關聯,是 CV 領域從 CNN 主導轉向 Transformer 的關鍵技術。
📖 課文原文

「Vision Transformer(ViT):ViT 是一種創新的影像處理模型,突破了傳統卷積神經網路(CNN)在電腦視覺領域的主導地位,採用了與自然語言處理(NLP)領域相似的 Transformer 架構來處理影像數據。」