TensorFlow Serving mobilenet_1.0_224_quant答案

【问题标题】：Tensorflow Serving mobilenet_1.0_224_quantTensorFlow Serving mobilenet_1.0_224_quant
【发布时间】：2018-07-20 16:42:43
【问题描述】：

全部，

我正在尝试提供基于 mobilenet_1.0_224_quant 架构的再训练模型。

python -m retrain
    --architecture=mobilenet_1.0_224_quant
    --bottleneck_dir=/mypath/bottlenecks
    --how_many_training_steps=500
    --model_dir=/mypath/models
    --summaries_dir=/mypath/training_summaries/mobilenet_1.0_224_quant
    --output_graph=/mypath/graph.pb
    --output_labels=/mypath/labels.txt
    --image_dir=/mypath/images
    --saved_model_dir=/mypath/models/saved_models

tensorflow_model_server 能够正确加载可服务版本，但我无法使用它。

我正在使用与使用基于 inception_v3 的模型相同的策略。

for filename in filenames:
    f = open(filename, 'rb')
    files.append(f)
    data = f.read()
    imagedata.append(data)

request = predict_pb2.PredictRequest()
request.model_spec.name = 'default'
request.model_spec.signature_name = tf.saved_model.signature_constants.DEFAULT_SERVING_SIGNATURE_DEF_KEY

for data in imagedata:
    request.inputs['image'].CopyFrom(
        make_tensor_proto(data))
    result = stub.Predict(request, 10.0)  # 10 secs timeout
    print(result)

但是，我得到了错误：

grpc.framework.interfaces.face.face.AbortionError: AbortionError(code=StatusCode.INVALID_ARGUMENT, details="Expects arg[0] to be float but string is provided")

知道我做错了什么吗？

【问题讨论】：

标签： tensorflow-serving

【解决方案1】：

模型期望输入为浮点数，但您提供的是字符串。您可以使用SavedModelcommand-line tool 来检查模型的输入和输出规格。

【讨论】：