深度学习tensorflow之一点笔记

(1)tf.train.saver()保存变量,如果不对tf.train.saver()指定任何参数,默认保存所有所有变量;(可通过指定Variables/collections保存部分变量)

(保存模型时,只会保存变量的值,placeholder里的值不会被保存)

(2)想要训练好的模型:

导入图:saver=tf.train.import_meta_graph("路径")

导入变量:saver.restore(sess,"模型路径")

(3)restore时,saver(图)要和模型对应;saver.restore将持久化模型中的变量的值加载到当前代码计算图中的变量中,所以持久化模型中的变量(value)是当前代码计算图中变量集合(key)中的一个子集;(将变量名映射到对应的tensor值)

(4)saver.save向文件夹中写入包含了当前模型中所有可训练变量的checkpoint文件;

(5)迁移学习流程:定义变量——>(初始化持久化类,保存所有变量)saver=tf.train.Saver();——>(重载预训练模型,将预训练模型中变量值放入图中的变量)saver.restore()——>(迁移学习,微调RETRAIN等部分参数,保存迁移后的新模型)saver.save();

问题:只训练部分参数,迁移模型如何保存(变量):未训练的那一部分(固定的参数),如何变成模型的一部分,重训练一部分参数,(是否仅保存了这一部分在新模型data文件中);

          saver.restore只加载模型中的变量(训练的那一部分),预训练模型中未被训练的那一部分参数是否以常量的形式保存在某一个文件中(具体在哪里未知),当再次使用迁移学习训练后的模型时,重载restore是否需要另外传入这些值;

猜你喜欢

转载自www.cnblogs.com/xiaowa/p/10811767.html
今日推荐