K-Nearest Neighbors
KNN 分类/回归:对新样本找 K 个最近训练样本,分类投票/回归取均值,无需训练。
用途
简单非参数惰性学习算法,适合低维与小数据。
机制
对查询点找 K 个最近邻(欧氏/曼哈顿等距离),分类取多数投票、回归取均值/加权均值。需距离度量与 K 选择。KD 树加速低维查询。
用例
- 分类与回归
- 推荐系统
- 模式识别
KNN 分类/回归:对新样本找 K 个最近训练样本,分类投票/回归取均值,无需训练。
简单非参数惰性学习算法,适合低维与小数据。
对查询点找 K 个最近邻(欧氏/曼哈顿等距离),分类取多数投票、回归取均值/加权均值。需距离度量与 K 选择。KD 树加速低维查询。