批量培训但是在Tensorflow中测试单个数据项?

时间:2017-09-26 15:22:42

标签: python machine-learning tensorflow neural-network conv-neural-network

我训练了一个批量大小为10的卷积神经网络。 但是,在测试时,我想分别预测每个数据集的分类而不是分批预测,这会产生错误:

Assign requires shapes of both tensors to match. lhs shape= [1,3] rhs shape= [10,3]

我理解10指的是batch_size,3指的是我正在分类的班级数。

我们不能使用批次进行培训并单独测试吗?

更新

培训阶段:

batch_size=10
classes=3
#vlimit is some constant : same for training and testing phase
X = tf.placeholder(tf.float32, [batch_size,vlimit ], name='X_placeholder')
Y = tf.placeholder(tf.int32, [batch_size, classes], name='Y_placeholder')
w = tf.Variable(tf.random_normal(shape=[vlimit, classes], stddev=0.01), name='weights')
b = tf.Variable(tf.ones([batch_size,classes]), name="bias")
logits = tf.matmul(X, w) + b
entropy = tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=Y, name='loss')
loss = tf.reduce_mean(entropy)
optimizer = tf.train.AdamOptimizer(learning_rate).minimize(loss)

测试阶段:

batch_size=1
classes=3
X = tf.placeholder(tf.float32, [batch_size,vlimit ], name='X_placeholder')
Y = tf.placeholder(tf.int32, [batch_size, classes], name='Y_placeholder')
w = tf.Variable(tf.random_normal(shape=[vlimit, classes], stddev=0.01), name='weights')
b = tf.Variable(tf.ones([batch_size,classes]), name="bias")
logits = tf.matmul(X, w) + b
entropy = tf.nn.softmax_cross_entropy_with_logits(logits=logits, labels=Y, name='loss')
loss = tf.reduce_mean(entropy)
optimizer = tf.train.AdamOptimizer(learning_rate).minimize(loss)

2 个答案:

答案 0 :(得分:4)

绝对。占位符是'桶?从您的输入中获取数据。他们唯一要做的就是将数据直接导入模型。他们可以像无限的桶一样行事。使用None技巧 - 您可以根据需要将多少(或少)数据放入其中(显然取决于可用资源)。

在培训中,尝试使用batch_size替换None作为培训占位符:

X = tf.placeholder(tf.float32, [None, vlimit ], name='X_placeholder')
Y = tf.placeholder(tf.int32, [None, classes], name='Y_placeholder')

然后像以前一样定义你拥有的其他所有东西。

然后做一些训练操作,例如:

 _, Tr_loss, Tr_acc = sess.run([optimizer, loss, accuracy], feed_dict{x: btc_x, y: btc_y})

要进行测试,请重复使用这些相同的占位符(XY),而不必重新定义其他变量。

对于单个Tensorflow图定义,所有Tensorflow变量都是静态的。如果您要恢复模型,那么占位符在训练时仍然存在。与其他变量一样,例如wblogitsentropy& optimizer

然后做一些测试操作,例如:

 Ts_loss, Ts_acc = sess.run( [loss, accuracy], feed_dict{ x: test_x , y: test_y } )

答案 1 :(得分:3)

定义占位符时,请使用:

X = tf.placeholder(tf.float32, [None, vlimit ], name='X_placeholder')
Y = tf.placeholder(tf.int32, [None, classes], name='Y_placeholder')
...

代替你的训练和测试阶段(实际上,你不应该为测试阶段重新定义这些)。同样将您的偏见定义为:

b = tf.Variable(tf.ones([classes]), name="bias")

否则,您正在为批次中的每个样本培训单独的偏差,这不是您想要的。

TensorFlow应该自动展开输入的第一个维度,并将其识别为批量大小,因此对于培训,您可以批量生产10个批次,并且对于测试,您可以为其提供单个样品(或100个或其他批次)