如何在分布式模式下运行TensorFlow的示例代码?

时间:2016-06-12 09:40:56

标签: tensorflow

我是TensorFlow的新手并尝试在分布式模式下运行它。现在我在https://github.com/tensorflow/tensorflow/blob/master/tensorflow/g3doc/how_tos/distributed/index.md找到了它的官方文件。但它在loss函数中缺少一些东西。

任何人都可以帮忙完成,以便我可以使用您的代码运行吗?

1 个答案:

答案 0 :(得分:3)

它不仅缺乏损失功能,缺乏训练模型,因此损失最小化。

此文件只是一个模板文件,您必须完成该模板才能以分布式模式训练模型。

因此,在模板文件中找到评论

  # Build model...

这意味着你必须定义一个训练模型(例如:一个卷积神经网络,一个简单的感知器......)。 您可以在教程中找到类似于MNIST模型的内容:https://www.tensorflow.org/versions/r0.9/tutorials/mnist/beginners/index.html

您的模型以损失函数结束以最小化。

根据MNIST的例子,损失是:

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))
loss = cross_entropy

一旦您定义了要训练的模型并将损失最小化,您就已经使用缺失的值填充了模板,现在您可以开始以分布式模式训练模型。