| 项目 | 内容 |
|---|---|
| 这个作业属于哪个课程 | 人工智能实战 2019（北京航空航天大学） |
| 这个作业的要求在哪里 | 人工智能实战第六次作业（个人） |
| 我在这个课程的目标是 | 了解人工智能的基础理论知识，锻炼实践能力 |
| 这个作业在哪个具体方面帮助我实现目标 | 了解参数的影响，学习调参 |
| 作业正文 | 见下文 |
| 其他参考文献 | 无 |
1.作业要求
- 将模型准确度调整至>97%
- 整理形成博客，博客中给出参数列表和对应值
- 给出最终的loss下降曲线
- 给出最终准确度结果
2.参数调节
- 调节learning rate
n_hidden1=64，n_hidden2=32，m_epoch = 2，batch_size = 10| learning_rate | accuracy rate |
|---|---|
| 0.1 | 0.9634 |
| 0.15 | 0.9648 |
| 0.2 | 0.9665 |
| 0.25 | 0.9612 |
| 0.3 | 0.9623 |
| 0.4 | 0.9622 |
可见，准确率大概在learning rate=0.2时最大。
- 调节batch_size
n_hidden1=64，n_hidden2=32，m_epoch = 2，learning_rate=0.2| batch_size | accuracy rate |
|---|---|
| 5 | 0.9595 |
| 8 | 0.9626 |
| 10 | 0.9653 |
| 13 | 0.9632 |
| 15 | 0.9606 |
| 20 | 0.9623 |
可见，准确率大概在batch_size=10时最大。
- 调节n_hidden1、n_hidden2
learning_rate=0.2，m_epoch = 2，batch_size = 10| n_hidden1 | n_hidden2 | accuracy rate |
|---|---|---|
| 32 | 16 | 0.9587 |
| 64 | 16 | 0.9644 |
| 64 | 32 | 0.9665 |
| 128 | 16 | 0.961 |
| 128 | 32 | 0.9631 |
| 128 | 64 | 0.963 |
可见，准确率大概在n_hidden1=64，n_hidden2=32时最大。
- 调节m_epoch
n_hidden1=64，n_hidden2=32，batch_size = 10，learning_rate=0.2| m_epoch | accuracy rate |
|---|---|
| 2 | 0.9636 |
| 5 | 0.9682 |
| 10 | 0.971 |
| 15 | 0.9727 |
| 20 | 0.9783 |
可见，m_epoch越大，准确率越高。这里取到20。
3.结果
取learning_rate=0.2，batch_size = 10，n_hidden1=64，n_hidden2=32，m_epoch=20
Loss曲线：
得到的准确率：
rate=9783 / 10000 = 0.9783