在运行时将连接功能连接到输入层的字嵌入

时间:2016-07-26 11:37:35

标签: python tensorflow deep-learning theano feature-extraction

假设我在嵌入查找后得到一个输入矩阵,如下所示:

[[[0.5, 0.25, 0.47, 0.86],[0.8. 0.12, 0.63, 0.97],[0.7, 0.47, 0.32, 0.01]],...,[[...]]] i。,每个嵌入都是dim = 4,句子长度为3,如上述情况所示。

我们如何在Tensorflow / TFLearn或Theano中使用占位符动态地(即在运行时间期间)附加对应于句子中每个单词的dim 2的特征向量?所以final input will be of dim = embedding_dim + feature_dim.

P.S:输入矩阵是形状[x y z]的3D张量,x =批量句子数,y =句子中的单词数(包括填充)。 z =嵌入维度。最终形状为[x y z + 2]。

1 个答案:

答案 0 :(得分:4)

在Tensorflow中,您可以创建所需形状[x,y,2]的占位符,然后使用tf.concat将其连接到输入Tensor。假设'输入'是你的[x,y,z]嵌入Tensor,你可以这样做:

features = tf.placeholder(tf.float32, [x, y, 2])
new_inputs = tf.concat(2, [inputs, features]) # Concatenate along the 3rd dimension