用于部署 python 机器学习模型的通用 Web 服务器/框架？ [关闭]

Question

我注意到Databricks MLFlow 和Amazon Sagemaker 都使用了 Nginx、Gunicorn 和 Flask 的组合。

我想知道这是否往往是部署机器学习模型（例如 Scikit-learn、Tensorflow、Keras）的标准堆栈。

如果是这样，是否有理由将它们用于替代 Tornado 等替代品？

如果没有，是否有“标准堆栈”

Answer 1

我想，选择 Flask 而不是 Tornado 作为 Web 框架来包装 ML 的主要原因是 Flask 简单但功能丰富（使用插件）。 ML 通常受 CPU 和 RAM 限制，而 Tornado 的主要优势是有效处理 IO 限制操作，而 ML 并非如此。但是为 ML 选择 Tornado 意味着更复杂的开发，以实现从零到零的收益。如果你在 Tornado 中有主应用程序（如果你真的需要的话）并使用 ML 和 Flask 作为主应用程序的微服务，那就更明智了。