Question

我正在尝试构建基本的编码器 - 解码器模型。我为训练图建立了模型，它完美无缺。解码器的助手是tf.contrib.seq2seq.TrainingHelper。但当我切换到帮助器tf.contrib.seq2seq.GreedyEmbeddingHelper时，它会抛出一个形状错误。

这是我的工作帮助。

helper = tf.contrib.seq2seq.TrainingHelper(
decoder_emb_inp, decoder_lengths, time_major=True)

这就是我想做的事。

start_tokens = tf.fill([batch_size], vezins_dict[start_token_str])
    end_token = vezins_dict[end_token_str]

helper = tf.contrib.seq2seq.GreedyEmbeddingHelper(decoder_emb_inp, 
    start_tokens, end_token)

我正在使用相同的解码器和dynamic_decoding。它适用于TrainingHelper，但不适用于GreedyEmbeddingHelper。

# decoder   
decoder = tf.contrib.seq2seq.BasicDecoder(
    decoder_cell, helper, encoder_state, 
    output_layer=projection_layer)

# Dynamic decoding
outputs, _, _ = tf.contrib.seq2seq.dynamic_decode(decoder)
logits = outputs.rnn_output

这就是错误。

ValueError: linear is expecting 2D arguments: 
  [TensorShape([Dimension(20), Dimension(20), Dimension(10)]), 
  TensorShape([Dimension(20), Dimension(128)])]

Answer 1

问题出在GreedyEmbeddingHelper输入上。使用 Greedy Helper 时，不需要解码器输入。

这是 Greedy Helper

的错误嵌入输入

embedding_decoder = tf.get_variable(
        "embedding_decoder", [out_alphabet_size, embedding_size])
decoder_emb_inp = tf.nn.embedding_lookup(
        embedding_decoder, decoder_inputs)

Greedy

需要这样

decoder_emb_inp = tf.get_variable(
        "embedding_decoder", [out_alphabet_size, embedding_size])

使用GreedyEmbeddingHelper构建BasicDecoder时出错

1 个答案: