🔑 名詞卡
馬可夫決策過程(Markov Decision Process, MDP)
🎯 定義
強化學習問題的標準數學形式化架構,由代理人(Agent)、環境(Environment)、狀態(State)、動作(Action)、報酬(Reward)、策略(Policy)與價值函數(Value Function)組成。
重點/應用
| 元素 | 說明 |
|---|---|
| Agent | 執行動作並從經驗中學習 |
| Environment | 代理人互動的外部系統 |
| State | 某時刻觀察到的環境資訊 |
| Action | 特定狀態下可採取的行為 |
| Reward | 環境對行為的回饋 |
| Policy | 根據狀態選擇動作的規則 |
| Value Function | 衡量狀態或狀態-動作對的長期獎勵期望值 |
記憶技巧
MDP 七元素可用故事記憶:「代理人在環境中的某個狀態,依策略選擇動作,獲得報酬,並用價值函數評估好壞」。
易混淆
- vs Q-Learning:Q-Learning 是求解 MDP 的一種具體演算法(屬於價值學習 Value-Based 方法)。
📖 課文原文「強化式學習問題可形式化為馬可夫決策過程(Markov Decision Process, MDP),基本組成包括:代理人、環境、狀態、動作、報酬、策略、價值函數。」