《统计学习方法》第三章 K近邻法

本文主要是记录学习《统计学习方法》的笔记总结，部分内容会直接摘录书中原文，特此申明

k 近邻法 (k-nearest-neighbor, k-NN) 是1968年由Cover和Hart 共同提出的，是一种基本分类与回归方法，本文只讨论分类问题里的k近邻法。k近邻法输入的是样本的特征向量，输出的是样本的类别。KNN假设给定一个训练集，里面的样本类别已经确定，对于新的样本，根据给定的计算距离准则，从训练集中找到与其最近的k个样本，利用这k个样本的类别由多数表决等方式进行预测。因此，k近邻法不具有显式的学习过程，其本质是利用训练集对特征向量空间进行了划分，将划分结果作为分类的“模型”。
K值的选择，距离度量及分类决策规则是K近邻法的三个基本要素。

1.1 k 近邻算法

算法 1.1 (k 近邻法)

输入：训练数据集 $T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}$，其中 $x_i \in \mathcal{X}\subseteq \mathbb{R^n}$ 为样本的特征向量，$y_i \in \mathcal{Y}=\{c_1,c_2,...,c_K\}$ 为样本的类别，$i=1,2,...,N$; 样本特征向量 $x$
输出：样本 $x$ 所属的类别 $y$

(1) 根据给定的距离度量，在训练集 $T$ 中找出与 $x$ 最近邻的 $K$ 个点，涵盖这 $K$ 个点的邻域记作 $N_{k}(x)$
(2) 在 $N_{k}$ 中根据分类决策规则(如多数表态) 决定 $x$ 的类别 $y$

$$y=\arg\max_{c_j}\sum_{x_i\in N_k(x)}I(y_i=c_j),i=1,2,...,N;j=1,2,...,K$$
其中 $I$ 为示性函数，当 $y_i=c_j$ 时， $I=1$, 否则 $I=0$

1.2 K近邻模型

k近邻法使用的模型实际上对应于对特征空间的划分，模型由三个基本要素组成–距离度量，k值的选择和分类决策规则决定。

1.2.1 模型

K近邻法中，当训练集，距离度量，k取值和分类规则确定之后，对于新的样本，所属的类别唯一确定。特征空间中，对每个训练实例点 $x_i$ ，距离该点比其他点更近的点组成的区域，叫做单元(cell)，每个训练实例点都有一个单元，所有实例点将特征空间划分为不相交的单元，最近邻法将实例 $x_i$ 的类别 $y_i$ 作为其单元中所有点的类标记

1.2.2 距离度量

特征空间里两个实例点的距离是其相似性的反映，k 近邻法的特征空间一般是n维的欧式空间 $\mathbb{R^n}$，一般使用欧式距离，也可以用其他距离。
假设特征空间 $\mathcal{X}$ 是 $n$ 维实数向量空间 $\mathbb{R^n}$ , $x_i,x_j \in \mathcal{X}$，$x_i=(x_{i}^{(1)},x_{i}^{(2)},...,x_{i}^{(n)})^T, x_i=(x_{j}^{(1)},x_{j}^{(2)},...,x_{j}^{(n)})^T$, $x_i,x_j$ 的 $L_p$ 距离定义为：

$$L_p(x_i,x_j) = (\sum_{l=1}^{n}|x_{i}^{(l)}-x_{j}^{(l)}|^{p})^{\frac{1}{p}}$$
其中 $p \ge 1$. 当 $p=2$ 时，称为欧式距离，即
$$L_2(x_i,x_j) = (\sum_{l=1}^{n}|x_{i}^{(l)}-x_{j}^{(l)}|^{2})^{\frac{1}{2}}$$
当 $p=1$ 时，称为曼哈顿距离，即
$$L_1(x_i,x_j) = \sum_{l=1}^{n}|x_{i}^{(l)}-x_{j}^{(l)}|$$
当 $p=\infty$ 时，他是各个方向坐标距离的最大值，即
$$L_{\infty}=\max_{l}|x_{i}^{(l)}-x_{j}^{(l)}|$$

1.2.3 k值的选择

k 值的选择会对k 近邻算法的结果产生重大影响
如果 k 选择较小的值，相当于用较小的邻域中的值来进行预测，模型“学习”的近似误差会减小，就是说只有那些同输入样本非常接近的训练样本才会对预测起作用，但是模型“学习”的估计误差会变大，因为范围小导致邻域内的点减少，每个点的作用都会比较明显，因此，模型对邻域内这些点会非常敏感，k越小模型越复杂。反之，也会有同样的问题，因此要选择一个适当的 K 来平衡近似误差和估计误差，一般采用交叉验证法来选取最优的 k。

1.2.4 分类决策规则

k 近邻的分类决策规则一般来说是多数表决，即由输入样本的 k 个近邻的多数类决定该样本的类别。
对于给定的样本 $x\in\mathcal{X}$，其最近的 k 个样本构成集合 $N_{k}(x)$，如果涵盖 $N_{k}(x)$ 的区域类别为 $c_j$，那么误分类率是

$$\frac{1}{k}\sum_{x_i\in N_{k}(x)}I(y_i \not= c_j) =1-\frac{1}{k}\sum_{x_i\in N_{k}(x)}I(y_i = c_j)$$

要是误分类概率最小，就要使得 $\sum_{x_i\in N_{k}(x)}I(y_i = c_j)$ 最大，因此多数表决规则等价于经验风险最小化。

1.3 k 近邻法的实现：kd树

实现 k 近邻法，我们首先考虑的就是如何快速对数据进行搜索，找到 k 个近邻。首先想到的自然是遍历样本集，这种方法的计算复杂度至少为 $O(n\log n)$，数据量大的时候非常慢，因此需要用特殊的数据结构来存储训练数据。方法有多种，典型的就是 kd树。

1.3.1 构造 kd 树

kd 树是一种对 k 维空间中的样本点进行存储以便对其进行快速检索的树形数据结构。这里的 k 和 k 近邻的 k 含义不一样，kd 树的 k 是每个样本数据的维度 构造 kd 树相当于不停用垂直于坐标轴的超平面去切分样本空间，构成一系列的k维超矩形区域，直到每个样本都属于一个矩形区域停止。

算法 3.2 (构造平衡 kd 树)

输入： k 维空间数据集 $T=\{x_1, x_2, ... ,x_N\}$，其中 $x_i = (x_i^{(1)}, x_i^{(2)}, ... , x_i^{(k)})$
输出： kd 树
(1) 构造根节点，根节点对应于包含 $T$ 的 k 维空间的超矩形区域
选择 $x^{(1)}$ 作为坐标轴，以 $T$ 中所有样本的 $x^{(1)}$ 坐标的中位数为切分点，将根结点对应的超矩形区域划分为两个子区域，切分由通过切分点并与坐标轴 $x^{(1)}$ 垂直的超平面实现。
由根结点生成深度为 1 的左右子结点，左子结点对应坐标 $x^{(1)}$ 小于分割点的子区域，右子结点对应坐标 $x^{(1)}$ 大于分割点的子区域。
将落在切分超平面上的点保存在根结点上。
(2) 重复：对深度为 $j$ 的结点，选择 $x^{(l)}$ 为切分的坐标轴，l = j (mod k) +1，以该结点的区域中所有实例的 $x^{(l)}$ 坐标的中位数为切分点，将该结点对应的超矩形区域且分为两个子区域。
由该节点生成深度为 $j+1$ 的左右子结点：左子结点对应坐标 $x^{(l)}$ 小于切分点的子区域，右子结点对应坐标 $x^{(l)}$ 大于切分点的子区域。
将落在切分超平面上的样本保存在该结点。
(3) 直到两个子区域内有样本点存在时停止，从而形成 kd 树的区域划分。

1.3.2 搜索 kd 树

接下来介绍如何利用 kd 树进行 k 近邻搜索。

算法 3.3 （用 kd 树的最近邻搜索）

输入：已构造的 kd 树，目标点 $x$
输出： $x$ 的最近邻
(1) 在 kd 树中找出包含目标点 x 的叶结点：从根结点出发，递归地向下访问 kd 树，若目标点 x 当前维的坐标小于切分点的坐标，则移动到左子结点，否则移动到右子结点，直到子结点为叶子结点为止。
(2) 以此叶子结点为“当前最近点”
(3) 递归地向上回退，在每个结点进行一下操作：
(a) 如果改点保存的样本点比当前最近点距离目标点更近，则以该点为“当前最近点”。
(b) 当前最近点一定存在于该结点一个子结点对应的区域，检查该子结点的父节点的另一个子结点对应的区域是否有更近的点，具体地，检查另一个子结点对应的区域是否以目标点为球心，以目标点与“当前最近点”间的距离为半径的超球体相交。

如果相交，可能在另一个子结点对应的区域内存在距目标点更近的点，移动到另一个子结点，接着，递归地进行最近邻搜索。

如果不相交，向上回退。
(4) 当回退到根结点时，搜索结束，最后的“当前最近点”即为 x 的最近邻点。

如果样本点是随机分布的，那 kd 树的平均搜索计算复杂度为 $O(\log N)$，$N$ 是训练样本数