首頁 / 名詞卡 / AI與模型基礎 / KNN(K-Nearest Neighbors,K-最近鄰演算法)

iPAS AI初級🧠 AI與模型基礎
🔑 名詞卡

KNN(K-Nearest Neighbors,K-最近鄰演算法)

🎯 定義

一種基於實例的學習演算法。對於一個新的輸入樣本,找出訓練集中與其最接近的 K 個樣本(最近鄰),再依此進行分類或迴歸預測。

分類與迴歸的做法差異

任務預測方式
分類問題將新樣本分類為 K 個最近鄰中出現次數最多的類別
迴歸問題將新樣本的預測值設為 K 個最近鄰的平均值或中位數

易混淆

  • vs K-Means:KNN 是監督式學習的分類/迴歸演算法(K 代表鄰居數),K-Means 是非監督式學習的聚類演算法(K 代表要劃分的群組數量)——兩者的 K 意義完全不同,是常見混淆點。
📖 課文原文

「K-最近鄰演算法(K-Nearest Neighbors, KNN):屬於一種基於實例的學習演算法,對於一個新的輸入樣本,它會找出訓練集中與其最接近的 K 個樣本(最近鄰)。」

CV 中的角色(中級科目一補充)

在電腦視覺技術演進的「特徵工程主導」時期(1980s–2010),KNN 與 SVM、隨機森林並列為常見的傳統分類器,根據人工設計的手工特徵(邊緣、色彩、紋理)進行影像分類,後被深度學習(CNN)取代。