文章目录
一、为什么要对数据归一化？
对数据进行归一化（Normalization）是一种常见的数据预处理技术，旨在将不同特征的取值范围缩放到相似的区间，从而改善机器学习算法的训练和性能。以下是归一化的几个重要原因：
-
加速收敛： 在训练过程中，梯度下降等优化算法能够更快地收敛到最优解，因为特征的取值范围较小，减少了参数更新的幅度。
-
防止梯度爆炸和梯度消失： 归一化可以帮助防止神经网络中的梯度爆炸和梯度消失问题，特别是在深层网络中，梯度会逐渐缩小或放大，影响梯度传播的稳定性。
-
提高模型稳定性： 归一化可以使模型更加稳定，减少不同特征之间的比例差异，避免模型对某些特征过于敏感。
-
提升模型泛化能力： 归一化有助于减少模型对训练数据的依赖程度，提高模型在未见过数据上的泛化能力。