🔑 名詞卡
超參數（Hyperparameters）
🎯 定義
由開發者手動指定、不由資料自動學習得出的參數，對模型訓練穩定性、收斂速度與最終效能有重大影響。與模型「參數」（由訓練過程學習得出，如權重、偏差）不同。
重點／應用
| 超參數 | 過大/過小的影響 |
|---|---|
| 學習率（Learning Rate） | 過大：震盪、發散；過小：收斂慢、易卡局部極小值 |
| 批次大小（Batch Size） | 過小：梯度波動大；過大：泛化能力下降 |
| 網路深度與寬度 | 過深：梯度消失；過寬：易過擬合；過淺：欠擬合 |
| 正則化係數 λ | 過大：模型簡化但可能欠擬合；過小：模型靈活但易過擬合 |
超參數調校常用方法：Grid Search（網格搜尋）、Random Search（隨機搜尋）、貝氏優化等。
記憶技巧
「參數是模型自己學出來的答案，超參數是人類設定的『考試規則』」。
易混淆
- vs 模型參數（Parameters）：模型參數（如權重 w、偏差 b）由訓練資料自動學習得出；超參數（如學習率、批次大小）需人為預先設定，訓練過程中不會自動改變（除非搭配排程器動態調整）。
📖 課文原文「超參數（Hyperparameters）的設定更對訓練效率與泛化能力有重大影響⋯超參數是需由開發者手動指定的參數，並不由資料自動學習得出。」