使用 tensorflow serving 和 docker 服务通用句子编码器模型答案

【问题标题】：Serving Univeral Sentence Encoder Model using tensorflow serving and docker使用 tensorflow serving 和 docker 服务通用句子编码器模型
【发布时间】：2020-03-03 23:33:22
【问题描述】：

我的本地驱动器上保存了通用句子编码器模型。我正在尝试使用 tensorflow 服务在 docker 容器上提供模型。

命令：

sudo docker run -p 8502:8502 --name tf-serve -v /home/ubuntu/first/models:/models -t tensorflow/serving --model_base_path=/models/test

/home/ubuntu/first/models 是我的模型文件的文件夹路径。

初始运行后进入无限循环。

这里发生了什么？！任何帮助将不胜感激。

【问题讨论】：

标签： python docker tensorflow tensorflow-serving

【解决方案1】：

像这样编辑你的命令：

sudo docker run -p 8502:8502 --name tf-serve -v /home/ubuntu/first/models:/models/test -t tensorflow/serving --model_base_path=/models/test

您的--model_base_path 是/models/test，因此您需要将文件复制到您的-v 中的该文件夹中

【讨论】：

我只有在测试文件夹内名为“1”的文件夹中有模型文件。文件夹结构是这样的 /first/models/test/1 里面 1 我有一个“变量”目录和“saved_model.pb”文件
然后尝试`-v /home/ubuntu/first/models/test/1:/models/test'