Question

遵循SavedModel＆＃39;广泛而深刻的＆＃39;在https://github.com/MtDersvan/tf_playground/blob/master/wide_and_deep_tutorial/wide_and_deep_basic_serving.md上的教程，我似乎无法使用Tensorflow附带的saved_model_cli查询SavedModel。

以下是我已经尝试过的一个例子：

saved_model_cli run --dir /tmp/serving_savemodel/1504908631 --tag_set serve --signature_def serving_default --input_exprs 'age=25;capital_gain=0;capital_loss=0;education=11th;education_num=7;gender=Male;hours_per_week=40;native_country=United-States;occupation=Machine-op-inspct;relationship=Own-child;workclass=Private'

Answer 1

MtDersvan answered来自Github repo的问题，这对我来说很成功（避免因格式错误引用）：

因为输入是序列化的tf.Example，你需要将feature_dict转换为序列化的原始张量，如下所示：

import tensorflow as tf

def _float_feature(value):
  return tf.train.Feature(float_list=tf.train.FloatList(value=[value]))

def _bytes_feature(value):
  return tf.train.Feature(bytes_list=tf.train.BytesList(value=[value]))

feature_dict = {'age': _float_feature(value=25),
                'capital_gain': _float_feature(value=0),
                'capital_loss': _float_feature(value=0),
                'education': _bytes_feature(value='11th'.encode()),
                'education_num': _float_feature(value=7),
                'gender': _bytes_feature(value='Male'.encode()),
                'hours_per_week': _float_feature(value=40),
                'native_country': _bytes_feature(value='United-States'.encode()),
                'occupation': _bytes_feature(value='Machine-op-inspct'.encode()),
                'relationship': _bytes_feature(value='Own-child'.encode()),
                'workclass': _bytes_feature(value='Private'.encode())}

example = tf.train.Example(features=tf.train.Features(feature=feature_dict))

serialized = example.SerializeToString()

serialized_proto = tf.contrib.util.make_tensor_proto(serialized, shape=[1])

serialized_proto_handle = serialized_proto.string_val

此serialized_proto_handle应如下所示：

[b'\n\xaa\x02\n\x1a\n\x0ehours_per_week\x12\x08\x12\x06\n\x04\x00\x00 B\n\x1d\n\x0crelationship\x12\r\n\x0b\n\tOwn-child\n\x19\n\reducation_num\x12\x08\x12\x06\n\x04\x00\x00\xe0@\n#\n\noccupation\x12\x15\n\x13\n\x11Machine-op-inspct\n\x18\n\x0ccapital_gain\x12\x08\x12\x06\n\x04\x00\x00\x00\x00\n\x18\n\x0ccapital_loss\x12\x08\x12\x06\n\x04\x00\x00\x00\x00\n\x15\n\teducation\x12\x08\n\x06\n\x0411th\n\x0f\n\x03age\x12\x08\x12\x06\n\x04\x00\x00\xc8A\n#\n\x0enative_country\x12\x11\n\x0f\n\rUnited-States\n\x18\n\tworkclass\x12\x0b\n\t\n\x07Private\n\x12\n\x06gender\x12\x08\n\x06\n\x04Male']

所以这可以单独完成，例如在ipython或python脚本中。接下来，您可以将其转储到文件（pickle，.npy，.npz）或直接从控制台进行拍摄：

saved_model_cli run --dir ./wide_and_deep_tutorial/serving_savemodel/${MODEL_DIR} \
--tag_set serve --signature_def serving_default \
--input_exprs "inputs=[b'\n\xaa\x02\n\x1a\n\x0ehours_per_week\x12\x08\x12\x06\n\x04\x00\x00 B\n\x1d\n\x0crelationship\x12\r\n\x0b\n\tOwn-child\n\x19\n\reducation_num\x12\x08\x12\x06\n\x04\x00\x00\xe0@\n#\n\noccupation\x12\x15\n\x13\n\x11Machine-op-inspct\n\x18\n\x0ccapital_gain\x12\x08\x12\x06\n\x04\x00\x00\x00\x00\n\x18\n\x0ccapital_loss\x12\x08\x12\x06\n\x04\x00\x00\x00\x00\n\x15\n\teducation\x12\x08\n\x06\n\x0411th\n\x0f\n\x03age\x12\x08\x12\x06\n\x04\x00\x00\xc8A\n#\n\x0enative_country\x12\x11\n\x0f\n\rUnited-States\n\x18\n\tworkclass\x12\x0b\n\t\n\x07Private\n\x12\n\x06gender\x12\x08\n\x06\n\x04Male']"

Result for output key classes:
[[b'0' b'1']]
Result for output key scores:
[[ 0.85787761  0.14212234]]

Answer 2

两个问题：

- input-exprs需要是有效的Python表达式;你缺少字符串的引号。
- input-exprs期望模型的每个输入有一个值;此模型有一个输入：一个字符串，应该是一个序列化的tf.train.Example对象（您可以使用saved_model_cli show验证这一点。）

老实说，尝试在命令行上构建一个tf.train.Example很麻烦，你可能最好编写一个Python脚本来构建它们并将它们存储到一个文件中（然后你就可以使用{而是选项{1}}。事实上，--input无论如何都会混淆=。

以下是在一行中构建和序列化saved_model_cli的示例Python代码（它是一个值为10的单个int特征tf.train.Example）：

如何查询宽和深的张量流＆＃39;使用saved_model_cli的模型？

2 个答案: