K 近邻算法

K 近邻算法    

$K$ 近邻算法的思想非常简单：对于测试数据，在训练数据中找到 $K$ 个与之距离最近的点并进行多数表决。  

$K$ 取值比较小时会只考虑与输入实例距离非常近的点，但是噪声对结果的影响会很大。

$K$ 取值较大时会考虑与输入实例距离较大的点，虽然可以避免噪声的影响，但是由于距离过大还是会有误差。