首頁 / 名詞卡 / 機器學習核心 / Dropout

iPAS AI中級⚙️ 機器學習核心
🔑 名詞卡

Dropout

🎯 定義

訓練過程中隨機將部分神經元暫時關閉(輸出設為 0),減少神經元之間的過度依賴,強迫模型學習多種「子網路」路徑,是常見的過擬合抑制技術。

重點/應用

  • 訓練階段:隨機丟棄機率 \(p\)(常見如 0.5)的神經元輸出。
  • 測試階段:不再丟棄神經元,而是把權重按保留率縮放,維持輸出期望值一致。
  • 不需修改網路架構,僅在訓練階段生效。

記憶技巧

「訓練時隨機請假,測試時全員到齊但薪水(權重)打折」。

易混淆

  • vs 早停法:Dropout 是「訓練過程中」的正則化手段(隨機關神經元);早停法是「決定何時停止訓練」的策略,兩者可同時使用。
📖 課文原文

「在訓練過程中,隨機將部分神經元暫時關閉,減少神經元之間的依賴,讓模型學到多種路徑的特徵,減少過擬合。」