首頁 / 名詞卡 / 機器學習核心 / 馬可夫決策過程(Markov Decision Process, MDP)

iPAS AI中級⚙️ 機器學習核心
🔑 名詞卡

馬可夫決策過程(Markov Decision Process, MDP)

🎯 定義

強化學習問題的標準數學形式化架構,由代理人(Agent)、環境(Environment)、狀態(State)、動作(Action)、報酬(Reward)、策略(Policy)與價值函數(Value Function)組成。

重點/應用

元素說明
Agent執行動作並從經驗中學習
Environment代理人互動的外部系統
State某時刻觀察到的環境資訊
Action特定狀態下可採取的行為
Reward環境對行為的回饋
Policy根據狀態選擇動作的規則
Value Function衡量狀態或狀態-動作對的長期獎勵期望值

記憶技巧

MDP 七元素可用故事記憶:「代理人在環境中的某個狀態,依策略選擇動作,獲得報酬,並用價值函數評估好壞」。

易混淆

  • vs Q-Learning:Q-Learning 是求解 MDP 的一種具體演算法(屬於價值學習 Value-Based 方法)。
📖 課文原文

「強化式學習問題可形式化為馬可夫決策過程(Markov Decision Process, MDP),基本組成包括:代理人、環境、狀態、動作、報酬、策略、價值函數。」