【发布时间】：2016-05-26 16:26:50
【问题描述】：
在高流量应用程序中使用 TensorFlow 进行实时预测的正确方法是什么。
理想情况下，我会有一个运行 tensorflow 的服务器/集群在一个端口上侦听，我可以从该端口连接应用服务器并获得类似于使用数据库方式的预测。 训练应通过 cron 作业通过网络将训练数据馈送到同一服务器/集群来完成。
如何在生产中实际使用 tensorflow？我应该建立一个 python 作为服务器运行的设置并使用 python 脚本来获取预测吗？我对此仍然很陌生，但我觉得这样的脚本需要打开会话等。这是不可扩展的。 （我说的是每秒 100 次预测）。
任何指向相关信息的指针都将受到高度赞赏。我找不到。
【问题讨论】：
-
目前公开版的 TensorFlow 并没有像你说的那样扩展；将来它应该基于我在 SO 上读到的内容。时间范围未知。
-
如果我理解正确，该版本不会在多台服务器并行运行方面进行扩展。开源版本是否也缺少应用层的接口？？我可以从中等吞吐量开始，但我仍然需要正确的接口方式
-
我不知道。也许mrry 会看到这个并做出回应。您可能还想更改问题，因为它现在有 3 票接近。我没有给你，但我确实认为这是一个不应该删除的问题。
标签： python machine-learning tensorflow tensorflow-serving