尝试通过Tensorflow服务使用Universal Sentence Encoder Lite / 2

Question

我使用Universal Sentence Encoder Lite版本创建了SavedModel。如果我使用tf.saved_model.loader.load加载SavedModel，它会很好地工作。

但是，如果我尝试使用Tensorflow Serving为模型提供服务，则会出现以下错误：

  

“错误”：“ indices [3] = 1不在[0，1）\ n \ t [[Node：   lite_module_apply_default / Encoder_zh / KonaTransformer / ClipToMaxLength / GatherV2_1   = GatherV2 [出租车= DT_INT32，丁迪克斯= DT_INT64，Tparams = DT_INT64，_output_shapes = [[？]]，_ device =“ / job：localhost /副本：0 /任务：0 /设备：CPU：0”]（_ arg_qsph_v_0_7，   lite_module_apply_default / Encoder_zh / KonaTransformer / ClipToMaxLength / Reshape，   lite_module_apply_default_1 / Encoder_zh / KonaTransformer / SequenceMask / Const）]]“

为什么会发生这种情况？

python版本：3.6

tensorflow版本：1.9.0

tensorflow_hub版本：0.1.1

使用tensorflow /服务docker 1.11

Answer 1

我以行格式给出了输入张量。通过将输入张量的格式更改为列格式，我得以解决此问题。有关行格式和列格式的详细说明，请参见here。