TensorFlow服务:无法提供NMT模型

时间:2018-07-19 14:52:29

标签: tensorflow tensorflow-serving

我正在尝试使用以下补丁来服务NMT模型:

https://github.com/luozhouyang/nmt/blame/master/nmt/exporter.py

但是服务模型总是生成相同的输出,而与输入无关,因为推理签名是这样的:

  inference_signature = tf.saved_model.signature_def_utils.predict_signature_def(
    inputs={
      'seq_input': inference_input
    },
    outputs={
      'seq_output': tf.convert_to_tensor(inference_output)
    }
  )

legacy_ini_op = tf.group(tf.tables_initializer(),name ='legacy_init_op')

我们如何解决问题并为模型指定适当的输入输出?

0 个答案:

没有答案