K近邻(KNN)总结

1、简述一下KNN算法的原理。

K近邻算法是给定一个训练数据集,对新的输入实例,在训练数据集中找到与该实例最邻近的K个实例,这K个实例的多数属于某个类,就把该输入实例分类到这个类中。

2、KNN算法有哪些优点和缺点?

优点:算法思想较简单,既可以做分类也可以做回归;可以用于非线性分类/回归;训练时间复杂度为O(n);对数据没有假设,对离群点不敏感;

缺点:K计算量大;存在类别不平衡问题;需要大量的内存;

3.不平衡的样本可以给KNN的预测结果造成哪些问题,有没有什么好的解决方式?

输入实例的K邻近点中,大数量类别的点会比较大,但其实可能都离实例较远,这样会影响最后的分类。

可以使用权值来改进,距实例较近的点赋予较高的权值,较远的赋予较低的权值。

5.为了解决KNN算法计算量过大的问题,可以使用分组的方式进行计算,简述一下该方式的原理。

先将样本按距离分解成组,获得质心,然后计算未知样本到各质心的距离,选出距离最近的一组或几组,再在这些组内引用KNN。本质上就是事先对已知样本点进行剪辑,事先去除对分类作用不大的样本,该方法比较适用于样本容量比较大时的情况。

6.什么是欧氏距离和曼哈顿距离?

扫描二维码关注公众号,回复: 2918839 查看本文章

欧氏距离就是常用的平方差求和再开方;

曼哈顿距离是坐标差的绝对值求和;                                                                                                

7.KNN中的K如何选取的?

一般选取较小的K值,然后使用交叉验证对比选择最优的K值。

8.什么是KD树?

KD树是对K维空间中的实例点进行存储,便于快速查找检索的二叉树。

9.KD树建立过程中切分维度的顺序是否可以优化?

可以先对每一维度求方差,方差大说明数据分布越分散,则从方差大的维度来逐步切分,可以取得更好的切分效果及树的平衡性。

10.KD树每一次继续切分都要计算该子区间在需切分维度上的中值,计算量很大,有什么方法可以对其进行优化?

在构建KD树前,依据每一维度先排序,在之后的切分中直接使用。

20.K-Means与KNN有什么区别

K-means是聚类算法,KNN用来分类和回归。

猜你喜欢

转载自blog.csdn.net/Torero_lch/article/details/82082272