关于TensorFlow形状排名的困惑

时间:2016-11-27 08:29:17

标签: python python-3.x tensorflow

我知道已经存在类似标题的问题,但在您将此报告为重复之前,请允许我说这些问题的所有答案都是非常临时的,不适用于我的问题。

我无法理解为什么我不能在TensorFlow中采用两个张量的矩阵乘法(技术上是矩阵向量乘法)。我有一个Tensor v形状(1000,1000)和另一个Tensor h_previous形状(1000)。我之前在程序中使用了两个与完全相同的形状的张量进行了大量的矩阵乘法,但这只是一个神秘的错误。以下是图表的关键部分:

# Variables
# Encoder input
X = tf.placeholder(tf.float32, shape=[k, None])
we = tf.Variable(tf.truncated_normal([500, k], -0.1, 0.1))
# Encoder update gate
wz = tf.Variable(tf.truncated_normal([1000, 500], -0.1, 0.1))
uz = tf.Variable(tf.truncated_normal([1000, 1000], -0.1, 0.1))
# Encoder reset gate
wr = tf.Variable(tf.truncated_normal([1000, 500], -0.1, 0.1))
ur = tf.Variable(tf.truncated_normal([1000, 1000], -0.1, 0.1))
# Encoder h~ [find name]
w = tf.Variable(tf.truncated_normal([1000, 500], -0.1, 0.1))
u = tf.Variable(tf.truncated_normal([1000, 1000], -0.1, 0.1))
# Encoder representation weight
v = tf.Variable(tf.truncated_normal([1000, 1000], -0.1, 0.1))

# Encoder
h_previous = tf.zeros([1000])
for t in range(N):
    # Current vector and its embedding
    xt = tf.reshape(tf.slice(X, [t, 0], [1, k]), [k])
    e = tf.matmul(we, xt)
    # Reset calculation
    r = tf.sigmoid(tf.matmul(wr, e) + tf.matmul(ur, h_previous))
    # Update calculation
    z = tf.sigmoid(tf.matmul(wz, e) + tf.matmul(uz, h_previous))
    # Hidden-tilde calculation
    h_tilde = tf.tanh(tf.matmul(w, e) + tf.matmul(u, r * h_previous))
    # Hidden calculation
    one = tf.ones([1000])
    h = z * h_previous + (one - z) * h_tilde
    h_previous = h
c = tf.tanh(tf.matmul(v, h_previous))

我很难过。有没有人有任何线索?提前致谢。 :)

1 个答案:

答案 0 :(得分:2)

我已经在几个地方修复了你的代码,现在它可以工作了(见下文)。通常,tf.matmul的输入应该是两个2D矩阵(请参阅文档here),而您传递的是二维矩阵(大小为1000x1000)和一维矩阵(大小为1000)。如果将第二个矩阵重新整形为1000x1或1x1000,则matmul将起作用。

phone_layout