KNN算法（学习笔记）

KNN的工作原理
1.计算待分类物体与其他物体之间的距离
2.统计距离最近的K个邻居
3.对于K个最近的邻居，他们属于哪个分类最多，待分类物体就属于哪一类

计算距离的五种方法
1.欧式距离
2.曼哈顿距离
3.闵可夫斯基距离
4.切比雪夫距离
5.余弦距离

KD 树：是对数据点在 K 维空间中划分的一种数据结构。在 KD 树的构造中，每个节点都是 k 维数值点的二叉树。既然是二叉树，就可以采用二叉树的增删改查操作，这样就大大提升了搜索效率。