如何在不使用feeddict的情况下在张量流中实现小批量梯度下降?

时间:2018-06-28 20:57:52

标签: tensorflow

据我了解,使用feed_dict是一个计算量很大的过程,应根据this article避免使用。 Tensorflow的输入管道据说更好。

我发现的所有小批量梯度下降教程都是通过feed_dict实现的。有没有办法使用输入管道和小批量梯度下降?

1 个答案:

答案 0 :(得分:0)

如果您只是制作一个小型模型,则可以使用feed_dict做得很好。过去,许多大型模型都是使用feed_dict方法进行训练的。如果要扩展到具有大数据集或其他内容的非常深的卷积网络,则可能要使用tf.data和数据集管道,可能将数据集序列化为.tfrecord文件,以便可以将数据预取到GPU以减少空闲时间。这些优化对于大型模型来说是值得的,如果您真的想学习API,请访问quickstart guidethis helpful Medium article来开始使用API​​。