K-Nearest Neighbors
La clasificación/regresión KNN encuentra las K muestras de entrenamiento más cercanas a una muestra nueva, votando para clasificar y promediando para regresar, sin fase de entrenamiento.
Propósito
Proporcionar un algoritmo simple de aprendizaje perezoso no paramétrico, apto para dimensiones bajas y conjuntos de datos pequeños.
Mecanismo
Encuentra los K vecinos más cercanos de un punto de consulta (con distancias euclidiana, Manhattan u otras); la clasificación usa votación mayoritaria, la regresión la media o una media ponderada. Se requieren una métrica de distancia y la elección de K. Los árboles KD aceleran consultas de baja dimensión.
Casos de uso
- Clasificación y regresión
- Sistemas de recomendación
- Reconocimiento de patrones