K-Nearest Neighbors / KNN
Bir veri noktasını, ona en yakın k komşusunun çoğunluk sınıfına göre sınıflandıran basit algoritma.
K-En Yakın Komşu (KNN), bir veri noktasının sınıfını veya değerini, eğitim verisi içindeki ona en yakın k adet komşusunun çoğunluk sınıfına (sınıflandırmada) ya da ortalamasına (regresyonda) bakarak belirleyen, kavramsal olarak son derece basit bir algoritmadır. KNN "tembel öğrenme" (lazy learning) algoritmaları kategorisinde yer alır; çünkü diğer birçok algoritmanın aksine ayrı bir eğitim aşaması yoktur, tüm eğitim verisi olduğu gibi saklanır ve gerçek hesaplama yalnızca yeni bir tahmin istendiğinde, o anda eğitim verisiyle mesafe hesaplanarak yapılır. Bu durum, KNN'i uygulaması kolay ve sezgisel kılarken, büyük veri kümelerinde her tahmin için tüm veriyle karşılaştırma yapılması gerektiğinden çıkarım aşamasını yavaşlatabilir; k değerinin seçimi de model performansını doğrudan etkiler.