Question

我正在学习如何将Tensorflow与MNIST教程结合使用，但我在教程的某个方面阻止了这一点。

以下是提供的代码：

from tensorflow.examples.tutorials.mnist import input_data
import tensorflow as tf

mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)
x = tf.placeholder(tf.float32, [None, 784])
W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))
y = tf.nn.softmax(tf.matmul(x, W) + b)
y_ = tf.placeholder(tf.float32, [None, 10])

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))

train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)
saver = tf.train.Saver()
init = tf.initialize_all_variables()
sess = tf.Session()
sess.run(init)
for i in range(1000):
  batch_xs, batch_ys = mnist.train.next_batch(100)
  sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

但实际上我根本不了解变量＆＃34; W＆＃34; （重量）和＆＃34; b＆＃34; （偏见）在计算时改变了吗？在每个批次上，它们初始化为零，但之后？我不会在代码中看到他们将要改变的所有内容？

提前非常感谢你！

Answer 1

TensorFlow variables将其状态从train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)一个cross_entropy调用到下一个。在你的程序中，它们将被初始化为零，然后在训练循环中逐步更新。

更改变量值的代码由此行隐式创建：

sess.run(train_step)

在TensorFlow中，tf.train.Optimizer是一个创建更新变量的操作的类，通常基于相对于这些变量的一些张量（例如，损失）的梯度。默认情况下，当你调用Optimizer.minimize()，TensorFlow创建操作以更新给定张量（在本例中为func collectionView(_ collectionView: UICollectionView, layout collectionViewLayout: UICollectionViewLayout, sizeForItemAt indexPath: IndexPath) -> CGSize { let nbCol = 2 let flowLayout = collectionViewLayout as! UICollectionViewFlowLayout let totalSpace = flowLayout.sectionInset.left + flowLayout.sectionInset.right + (flowLayout.minimumInteritemSpacing * CGFloat(nbCol - 1)) let size = Int((collectionView.bounds.width - totalSpace) / CGFloat(nbCol)) return CGSize(width: size, height: size) }）所依赖的所有变量。

当您调用{{1}}时，会运行包含这些更新操作的图表，因此会指示TensorFlow更新变量的值。

Tensorflow MNIST（权重和偏差变量）

1 个答案: