主要参考 K-means 聚类算法及 python 代码实现 还有 《机器学习实战》 这本书，当然前面那个链接的也是参考这本书，懂原理，会用就行了。
1、概述
K-means 算法是集简单和经典于一身的基于距离的聚类算法
采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。
该算法认为类簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。
说白了就是无监督的聚类，大家都是同一个标注，或者没有标注，然后这一堆数据是一类，那一堆又是一类，你人为的设置好几个类，算法自动帮你分好各个类，只要每个类的样本尽可能的紧凑即可。
2、核心思想
通过迭代寻找 k 个类簇的一种划分方案，使得用这 k 个类簇的均值来代表相应各类样本时所得的总体误差最小。
k 个聚类具有以下特点：各聚类本身尽可能的紧凑，而各聚类之间尽可能的分开。
k-means 算法的基础是最小误差平方和准则,
其代价函数是：
式中，μc(i) 表示第 i 个聚类的均值。
各类簇内的样本越相似，其与该类均值间的误差平方越小，对所有类所得到的误差平方求和，即可验证分为 k 类时，各聚类是否是最优的。
上式的代价函数无法用解析的方法最小化，只能有迭代的方法。
3、算法步骤图解
下图展示了对 n 个样本点进行 K-means 聚类的效果，这里 k 取 2。
4、算法实现步骤
k-means 算法是将样本聚类成 k 个簇（cluster），其中 k 是用户给定的，其求解过程非常直观简单，具体算法描述如下：
1) 随机选取 k 个聚类质心点
2) 重复下面过程直到收敛 {
对于每一个样例 i，计算其应该属于的类：
对于每一个类 j，重新计算该类的质心：
}
其伪代码如下：
******************************************************************************
创建 k 个点作为初始的质心点（随机选择）
当任意一个点的簇分配结果发生改变时
对数据集中的每一个数据点
对每一个质心
计算质心与数据点的距离
将数据点分配到距离最近的簇
对每一个簇，计算簇中所有点的均值，并将均值作为质心
********************************************************
5、K-means 聚类算法 python 实战
这个就是书上的代码。
需求： 对给定的数据集进行聚类
本案例采用二维数据集，共 80 个样本，有 4 个类。
$ wc -l testSet.txt;head testSet.txt
80 testSet.txt
1.658985 4.285136
-3.453687 3.424321
4.838138 -1.151539
-5.379713 -3.362104
0.972564 2.924086
-3.567919 1.531611
0.450614 -3.302219
-3.487105 -1.724432
2.668759 1.594842
-3.156485 3.191137
#!/usr/bin/env python # -*- coding: utf-8 -*- # Time : 18-8-8 下午2:17 # Author : dahu # File : kmeans2.py # Software: PyCharm #from : https://www.cnblogs.com/ahu-lichang/p/7161613.html import sys reload(sys) sys.setdefaultencoding('UTF-8') from numpy import * import matplotlib.pyplot as plt # 加载数据 def loadDataSet(fileName): # 解析文件，按tab分割字段，得到一个浮点数字类型的矩阵 dataMat = [] # 文件的最后一个字段是类别标签 fr = open(fileName) for line in fr.readlines(): curLine = line.strip().split('\t') fltLine = map(float, curLine) # 将每个元素转成float类型 dataMat.append(fltLine) return dataMat # 计算欧几里得距离 def distEclud(vecA, vecB): return sqrt(sum(power(vecA - vecB, 2))) # 求两个向量之间的距离 # 构建聚簇中心，取k个(此例中k=4)随机质心 def randCent(dataSet, k): n = shape(dataSet)[1] centroids = mat(zeros((k,n))) # 每个质心有n个坐标值，总共要k个质心 for j in range(n): minJ = min(dataSet[:,j]) maxJ = max(dataSet[:,j]) rangeJ = float(maxJ - minJ) centroids[:,j] = minJ + rangeJ * random.rand(k, 1) return centroids # k-means 聚类算法 def kMeans(dataSet, k, distMeans =distEclud, createCent = randCent): ''' :param dataSet: 没有lable的数据集 (本例中是二维数据) :param k: 分为几个簇 :param distMeans: 计算距离的函数 :param createCent: 获取k个随机质心的函数 :return: centroids： 最终确定的 k个 质心 clusterAssment: 该样本属于哪类 及 到该类质心距离 ''' m = shape(dataSet)[0] #m=80,样本数量 clusterAssment = mat(zeros((m,2))) # clusterAssment第一列存放该数据所属的中心点，第二列是该数据到中心点的距离， centroids = createCent(dataSet, k) clusterChanged = True # 用来判断聚类是否已经收敛 while clusterChanged: clusterChanged = False; for i in range(m): # 把每一个数据点划分到离它最近的中心点 minDist = inf; minIndex = -1; for j in range(k): distJI = distMeans(centroids[j,:], dataSet[i,:]) if distJI < minDist: minDist = distJI; minIndex = j # 如果第i个数据点到第j个中心点更近，则将i归属为j if clusterAssment[i,0] != minIndex: clusterChanged = True # 如果分配发生变化，则需要继续迭代 clusterAssment[i,:] = minIndex,minDist**2 # 并将第i个数据点的分配情况存入字典 # print centroids for cent in range(k): # 重新计算中心点 ptsInClust = dataSet[nonzero(clusterAssment[:,0].A == cent)[0]] # 去第一列等于cent的所有列 centroids[cent,:] = mean(ptsInClust, axis = 0) # 算出这些数据的中心点 return centroids, clusterAssment # --------------------测试---------------------------------------------------- # 用测试数据及测试kmeans算法 if __name__ == '__main__': datMat = mat(loadDataSet('testSet.txt')) # print min(datMat[:,0]) # print max(datMat[:,1]) # print randCent(datMat,4) myCentroids,clustAssing = kMeans(datMat,4) print myCentroids # print clustAssing,len(clustAssing) plt.figure(1) x=array(datMat[:,0]).ravel() y=array(datMat[:,1]).ravel() plt.scatter(x,y, marker='o') xcent=array(myCentroids[:,0]).ravel() ycent=array(myCentroids[:,1]).ravel() plt.scatter( xcent, ycent, marker='x', color='r', s=50) plt.show()
运行结果：
代码不是特别的难，看下都可以看得明白，发现都有点不会numpy的操作了，里面有一些是基于numpy的 布尔型数组操作 ，要补一补。 第 04 章 NumPy 基础：数组和矢量计算
简单说下各个函数的作用：
loadDataSet ：加载数据的
distEclud ： 计算距离的，注释说是计算欧几里德距离，其实就是计算 每个样本 到 每个聚类质心的距离，这是用来确定质心坐标的。
kMeans ： 主函数了，实现了kmeans 算法
注释已经比较详细了，就不再细说了。 书上后面还有一个对kmeans优化的地方，这里就不介绍了。