K-means聚类算法的学习笔记.
- 首先,聚类算法是一种未知标签的情况下进行的一种分类,无监督学习
- 关于K-means的算法网上也有许多介绍,主要记录一下自己的想法.以数模国赛2017年B为例
1.首先碰到的问题是,有一堆的经纬度,怎么将这堆经纬度归类呢?从以下的图中其实可以观察到,主要为四类,东莞,佛山,广州,深圳.那么初始可以定义有四类.
2.然后就是怎么归类的问题,我认为还是比较容易理解的.我们可以选取四个中心点,然后所有点里面,离哪个中心点近就归为中心点那类,然后就可以得到四类点.然后我们再将类中的点求个平均值,得到新的中心点,继续分类.循环这个过程,直到中心点不再变换,或者达到最大迭代次数(有些函数不收敛)
需要注意两点:
- 初始中心点的选取非常重要,如果两个中心点挨的近了那就非常影响结果.
- 关于近的这个问题,指距离,而距离有很多种,常用的欧式距离,曼哈顿距离.
3.代码实现,以下为代码实现,前者为我自己的实现(可能有一定漏洞)后者调用了sklearn的API(比较好)
本来是想对自己实现的代码进行一定的改进的…不过用过API后成为了放弃思考的废人.
在本次选取中,我碰到的一个问题是,我选取了四个点,但是在聚类的时候,有一个点会不变(也就是前面提到的,初始值的问题,当然也可能是我代码存在漏洞了)
import openpyxl
import math
import copy
import matplotlib.pyplot as plt
import numpy as np
from sklearn.cluster import KMeans
excel = openpyxl.load_workbook(
'C:\\Users\\83599\\Desktop\\数模2017\\excel\\附件12数据合集.xlsx')
table = excel['Sheet1']
weidu = []
jingdu = []
for row in range(2, 837):
weidu.append(table.cell(row=row, column=2).value)
jingdu.append(table.cell(row=row, column=3).value)
# cen = [[0, 0] for i in range(3)]
cen = [[weidu[0], jingdu[0]], [weidu[1], jingdu[1]], [weidu[2], jingdu[2]]]
# cen =[[23.1235,113.2757],[22.6414,114.0689],[22.9159,113.8294]]
means = [[] for i in range(len(cen))]
flag = False
while not flag:
means = [[] for i in range(len(cen))]
for i in range(len(weidu)):
min = 1000000
index = 0
for j in range(len(cen)):
temp = (cen[j][0] - weidu[i])**2 + (cen[j][1] - jingdu[i])**2
temp = math.sqrt(temp)
if(temp < min):
min = temp
index = j
means[index].append([weidu[i], jingdu[i]])
# print(means[1])
temp_cen = copy.deepcopy(cen)
for i in range(len(cen)):
sum_jindu = 0
sum_weidu = 0
if len(means[i]) != 0:
for t in range(len(means[i])):
sum_jindu += means[i][t][1]
sum_weidu += means[i][t][0]
cen[i] = [sum_weidu/len(means[i]), sum_jindu/len(means[i])]
# print(cen)
flag = True
for i in range(len(cen)):
if temp_cen[i][0] != cen[i][0] or temp_cen[i][1] != cen[i][1]:
flag = False
break
color = ['b', 'r', 'g']
x = [[] for i in range(len(cen))]
y = [[] for i in range(len(cen))]
for i in range(len(means)):
for j in range(len(means[i])):
x[i].append(means[i][j][0])
y[i].append(means[i][j][1])
for i in range(len(cen)):
plt.scatter(y[i], x[i], c=color[i])
plt.scatter(cen[i][1], cen[i][0], marker='x', c='black')
plt.show()
然后下面就是喜闻乐见的调api时间
import openpyxl
import math
import copy
import matplotlib.pyplot as plt
import numpy as np
from sklearn.cluster import KMeans
excel = openpyxl.load_workbook(
'C:\\Users\\83599\\Desktop\\数模2017\\excel\\附件12数据合集.xlsx')
table = excel['Sheet1']
weidu = []
jingdu = []
for row in range(2, 837):
weidu.append(table.cell(row=row, column=2).value)
jingdu.append(table.cell(row=row, column=3).value)
X=[]
for i in range(len(jingdu)):
X.append([jingdu[i],weidu[i]])
#将列表转换成数组会便于处理
X = np.array(X)
module = KMeans(n_clusters=3, random_state=9)
y_pred =module.fit_predict(X)
cen = module.cluster_centers_
print(module.cluster_centers_)
plt.scatter(X[:, 0], X[:, 1], c=y_pred)
plt.scatter(cen[:, 0], cen[:, 1], c='black',marker='x')
plt.show()
