TensorFlow机器学习小案例（五）

1、损失函数：
表示用来预测值与已知答案进行比较差距，在神经训练网络时，通过不断改变神经所有参数，使损失函数不断减少。从而提高准确率的神经网络模型。
2、学习率：
进行更新参数，学习率大了，优化的参数不怎么改变，学习率小，优化参数变化大，影响误差。
3、滑动平均：
增强滑动增强模型的泛化能力。
4、正则化：
在损失函数中给每一个参数w加上权重。引入模型复杂指标，从而抑制模型噪音减小过拟合化。
5、过拟合：
神经网络模型在训练数据集上的准确比较高，在新的进行预测或分类时准确率较低，说明模型的泛化能力差。