Brief Guide
| 项目 | 内容 |
|---|---|
| 这个作业属于哪个课程 | 北航人工智能实战课 |
| 这个作业的要求在哪里 | 第三次作业要求 |
| 我在这个课程的目标是 | 获得机器学习相关的完整项目与学习经验；通过与人工智能行业的大牛们聊天了解行业不同方向的发展以便进行职业规划；为转CS积累基础知识并获得相关课程的成绩 |
| 这个作业在哪个具体方面帮助我实现目标 | 对三层神经网络调参，了解控制模型精确度的方法 |
| 作业正文… | 【王俊杰de人工智能实战课】第6次作业 |
| 其他参考文献… | 微软AI教育GitHub |
Main Homework
代码
learning_rate = 0.2
n_hidden1 = 32
n_hidden2 = 16
m_epoch = 2
batch_size = 10调整参数
将 Max Epoch 设置为 10，确保在不同的学习率的情况下，学习结果都可以尽量到达平滑稳定阶段
1、调整学习率
除学习率外的参数设置
| 其余参数 | 数值 |
|---|---|
| Hidden Neural Number 1 | 32 |
| Hidden Neural Number 2 | 16 |
| Batch Size | 10 |
| Max Epoch | 10 |
学习率的数值设置
| 学习率 | 准确率 |
|---|---|
| 0.01 | 0.9538 |
| 0.03 | 0.9621 |
| 0.05 | 0.9681 |
| 0.1 | 0.9671 |
| 0.2 | 0.9631 |
| 0.3 | 0.9631 |
| 0.4 | 0.9578 |
| 0.5 | 0.9532 |
| 0.6 | 0.9543 |
| 0.7 | 0.9455 |
2、调整隐藏层的神经元数量
除隐藏层神经元数量外的参数设置
| 其余参数 | 数值 |
|---|---|
| Learning Rate | 0.2 |
| Batch Size | 10 |
| Max Epoch | 10 |
隐藏层神经元数量的数值设置
| 第一层 | 第二层 | 准确率 |
|---|---|---|
| 32 | 16 | 0.9631 |
| 64 | 16 | 0.9694 |
| 32 | 32 | 0.9653 |
| 64 | 32 | 0.9719 |
3、调整批大小
除批大小外的参数设置
| 其余参数 | 数值 |
|---|---|
| Learning Rate | 0.2 |
| Hidden Neural Number 1 | 32 |
| Hidden Neural Number 2 | 16 |
| Max Epoch | 10 |
批大小的数值设置
| 批大小 | 准确率 |
|---|---|
| 10 | 0.9651 |
| 12 | 0.9605 |
| 14 | 0.9662 |
| 16 | 0.9619 |
| 18 | 0.9645 |
| 20 | 0.9676 |
4、调整最大的epoch值
除最大epoch值外的参数设置
| 其余参数 | 数值 |
|---|---|
| Learning Rate | 0.2 |
| Hidden Neural Number 1 | 32 |
| Hidden Neural Number 2 | 16 |
| Batch Size | 10 |
最大epoch值的数值设置
| 最大epoch | 准确率 |
|---|---|
| 2 | 0.954 |
| 4 | 0.9574 |
| 6 | 0.9589 |
| 8 | 0.9612 |
| 10 | 0.972 |
最终结果
1、较优参数设置
| 参数 | 数值 |
|---|---|
| Learning Rate | 0.2 |
| Hidden Neural Number 1 | 64 |
| Hidden Neural Number 2 | 32 |
| Batch Size | 20 |
| Max Epoch | 10 |
2、准确度结果
accuracy = 0.9733
3、LOSS下降曲线展示
扫描二维码关注公众号，回复：
5992748 查看本文章
