首頁 / 名詞卡 / 機器學習核心 / Deep Q-Learning

iPAS AI初級⚙️ 機器學習核心
🔑 名詞卡

Deep Q-Learning

🎯 定義

Q-Learning 的延伸,結合深度學習(Deep Learning)來解決 Q-Learning 在高維度環境中的限制。採用深度神經網路(Deep Neural Networks, DNN)來近似 Q 值,而不是直接儲存 Q 表。

運作方式

在 Deep Q-Network(DQN)中,神經網路的輸入是環境的當前狀態(State),輸出則是每個可能行動(Action)的 Q 值,AI 會選擇 Q 值最高的行動來執行。為了穩定學習過程,DQN 引入了:

  • 經驗回放(Experience Replay)
  • 目標網路(Target Network)

以減少神經網路的震盪與過擬合。

應用範例

AlphaGo(結合深度學習與強化學習,自我對弈優化策略擊敗世界頂尖棋手)、Atari 遊戲(達到甚至超越人類玩家表現)。

易混淆

  • vs Q-Learning:Deep Q-Learning 用神經網路取代 Q 表,適合狀態空間過大、傳統 Q-Learning 不可行的高維度環境。
📖 課文原文

「Deep Q-Learning 是 Q-Learning 的延伸,結合深度學習(Deep Learning)來解決 Q-Learning 在高維度環境中的限制……採用深度神經網路(Deep Neural Networks, DNN)來近似 Q 值,而不是直接儲存 Q 表。」