在图形创建时跟踪张量形状

时间:2018-03-01 16:51:19

标签: python tensorflow

在某些情况下,tensorflow似乎能够在图形创建时检查张量的值,而在其他情况下,这会失败。

>>> shape = [constant([2])[0], 3]
>>> reshape([1,2,3,4,5,6], shape)
<tf.Tensor 'Reshape_13:0' shape=(2, 3) dtype=int32>
>>> zeros(shape)
<tf.Tensor 'zeros_2:0' shape=(?, 3) dtype=float32>

在上面的例子中,reshape()可以看到传入的张量作为形状的值为2,结果输出的形状为(2,3)但是零()不能,静态形状是( ?,3)。差异的原因是什么?

我的同事发布了Determining tensor shapes at time of graph creation in TensorFlow,这是基于相同的潜在问题,但他问的是如何最好地使用tensorflow来解决这类问题,而我的问题是关于为什么是tensorflow表现得这样。这是一个错误吗?

1 个答案:

答案 0 :(得分:2)

TD; DR:

  • tf.reshape可以推断输出的形状,但tf.zeros不能;
  • shape支持两个函数的整数(如静态/明确)和张量(动态/不定)。

代码更具体,更清晰:

shape = [tf.constant([2])[0], tf.constant([3])[0]]
print(tf.reshape([1,2,3,4,5,6], shape))  
# Tensor("Reshape:0", shape=(?, ?), dtype=int32)
print(tf.zeros(shape))  
# Tensor("zeros:0", shape=(?, ?), dtype=float32)

和此:

shape = [tf.constant([5])[0], 3]
print tf.reshape([1,2,3,4,5,6], shape)  
# Tensor("Reshape:0", shape=(2, 3), dtype=int32)
# This will cause an InvalidArgumentError at running time!

使用Tensor(例如tf.constant([2])[0])作为shape创建另一个Tensor(如tf.zeros(shape))时,图表创建时形状总是无限的时间。但是,tf.reshape()是不同的。它可以使用输入的形状和给定​​的形状(静态部分)来推断输出的形状。

在您的代码中,3是一个静态整数,并给出了输入的形状([6]);形状(2, 3)实际上是通过推断而不是提供来获得的。这可以在代码的第二部分中证明。虽然我给了tf.constant([5]),但形状不会改变。 (图表创建时没有错误,但在运行时出现错误!)