【发布时间】:2018-07-02 23:34:35
【问题描述】:
TensorFlow Serving 的最低系统要求是什么?我想这将取决于很多事情,例如我想要服务的模型的大小。但是是否有任何经验法则,例如 TensorFlow 服务至少需要 x 量的内存或 y 量的磁盘和 z 量的计算?
【问题讨论】:
-
这个问题很容易被否决,因为它看起来很离题而且不清楚。
标签: tensorflow tensorflow-serving
TensorFlow Serving 的最低系统要求是什么?我想这将取决于很多事情,例如我想要服务的模型的大小。但是是否有任何经验法则,例如 TensorFlow 服务至少需要 x 量的内存或 y 量的磁盘和 z 量的计算?
【问题讨论】:
标签: tensorflow tensorflow-serving
到目前为止,模型本身对内存/计算需求的贡献最大。使用 Bazel 构建将需要合理数量的内存,但如果通过 apt-get 安装,这应该会大大减轻。
This 帖子提到在 Azure DS1 v1 实例上成功运行 tf-serving,该实例为 1 核,3.5GB RAM。
总之,您应该更关心模型的需求,而不是 tf-serving。
【讨论】: