机器学习算法–无监督学习–聚类
一、原型聚类
特点：需要预先指定簇的个数K
1、K-Means
Python实现K-Means算法： Python实现K-Means算法
原理：从数据集中选择K个样本作为初始的K个簇中心，计算每个样本与这K个簇中心的距离，把这个样本划分到与之距离最小的那个簇，直至每个样本都被遍历，计算每个簇的平均值作为新的簇的中心。不段迭代直至簇的中心不再被改变或达到迭代的终止条件。
2、LVQ（learning vector quantization）
3、高斯混合聚类（Mixture of Gaussian）
还没研究
二、密度聚类（density-based clustering）
特点：不用预先指定簇的个数
DBSCAN: Density-Based Spatial Clustering of Applications with Noise
类似于用队列实现广度优先搜索算法
三、层次聚类（hierarchical clustering）
特点：需要预先指定簇的个数作为迭代的终止条件。有两种策略：自底向上的聚合策略，自顶向下的分拆策略。
自底向上的聚合策略：把每个样本初始化为一个簇，通过计算距离，对距离最小的两个簇进行聚合，直到簇的个数减少到所要的K个簇。
类似于寻找最优编码二叉树的 Huffman’s Algorithm
