数据归一化及三种方法（python）

数据标准化（归一化）处理是数据挖掘的一项基础工作，不同评价指标往往具有不同的量纲和量纲单位，这样的情况会影响到数据分析的结果，为了消除指标之间的量纲影响，需要进行数据标准化处理，以解决数据指标之间的可比性。原始数据经过数据标准化处理后，各指标处于同一数量级，适合进行综合对比评价。以下是三种常用的归一化方法：

min-max标准化（Min-Max Normalization）

也称为离差标准化，是对原始数据的线性变换，使结果值映射到[0 , 1]之间。转换函数如下： 
 
其中max为样本数据的最大值，min为样本数据的最小值。这种方法有个缺陷就是当有新数据加入时，可能导致max和min的变化，需要重新定义。

min-max标准化python代码如下：

import numpy as np

arr = np.asarray([0, 10, 50, 80, 100])
for x in arr:
    x = float(x - np.min(arr))/(np.max(arr)- np.min(arr))
    print x

# output
# 0.0
# 0.1
# 0.5
# 0.8
# 1.0

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13

使用这种方法的目的包括：

• 1、对于方差非常小的属性可以增强其稳定性；
• 2、维持稀疏矩阵中为0的条目。

下面将数据缩至0-1之间，采用MinMaxScaler函数

[python]  view plain  copy

1. from sklearn import preprocessing   
2. import numpy as np  
3. X = np.array([[ 1., -1.,  2.],  
4.               [ 2.,  0.,  0.],  
5.               [ 0.,  1., -1.]])  
6. min_max_scaler = preprocessing.MinMaxScaler()  
7. X_minMax = min_max_scaler.fit_transform(X)  

最后输出：

[python]  view plain  copy

1. array([[ 0.5       ,  0.        ,  1.        ],  
2.        [ 1.        ,  0.5       ,  0.33333333],  
3.        [ 0.        ,  1.        ,  0.        ]])  

测试用例：

[python]  view plain  copy

1. >>> X_test = np.array([[ -3., -1.,  4.]])  
2. >>> X_test_minmax = min_max_scaler.transform(X_test)  
3. >>> X_test_minmax  
4. array([[-1.5       ,  0.        ,  1.66666667]])  

注意：这些变换都是对列进行处理。

当然，在构造类对象的时候也可以直接指定最大最小值的范围：feature_range=(min, max)，此时应用的公式变为：

[python]  view plain  copy

1. X_std=(X-X.min(axis=0))/(X.max(axis=0)-X.min(axis=0))  
2. X_minmax=X_std/(X.max(axis=0)-X.min(axis=0))+X.min(axis=0))  

Z-score标准化方法

也称为均值归一化(mean normaliztion)， 给予原始数据的均值（mean）和标准差（standard deviation）进行数据的标准化。经过处理的数据符合标准正态分布，即均值为0，标准差为1。转化函数为： 
 
其中 μμ 为所有样本数据的均值，σσ为所有样本数据的标准差。

import numpy as np

arr = np.asarray([0, 10, 50, 80, 100])
for x in arr:
    x = float(x - arr.mean())/arr.std()
    print x

# output
# -1.24101045599
# -0.982466610991
# 0.0517087689995
# 0.827340303992
# 1.34442799399

• 1
• 2
• 3
• 4
• 5
• 6
• 7
• 8
• 9
• 10
• 11
• 12
• 13
• 14

来源： 点击打开链接