🔑 名詞卡
Adam（Adaptive Moment Estimation）
🎯 定義
梯度下降的一種變種優化演算法，結合了動量法和 RMSProp，能夠自適應學習率，是目前最廣泛使用的優化方法之一。
易混淆
- vs BGD／SGD：BGD 用整個數據集更新參數，SGD 用單一樣本更新參數，兩者學習率通常固定；Adam 能自適應調整學習率，收斂效率通常更佳。
📖 課文原文「Adam（Adaptive Moment Estimation）演算法：結合了動量法和 RMSProp，能夠自適應學習率，是目前最廣泛使用的優化方法之一。」