Rasa 服务器的最低系统要求和并行客户端请求数量的限制？

Question

我已经开始探索 Rasa 并计划从 Dialogflow 切换到 Rasa。但是，到目前为止，我通过探索 Rasa 文档和以前的论坛帖子（如 RASA Chatbot | System Requirement 和 Minimum/Recommended System Requirements for RASA(NLU+Core)）来回答以下两个问题的几次尝试都徒劳无功，因为答案中提供的链接已损坏。可能是因为这些链接不再有效。

所以这是我的两个问题：

1. 托管 Rasa 服务器的最低和推荐系统要求是什么？
2. 最大编号是多少。 Rasa 服务器可以并行处理多少客户端请求？

提前致谢。

Answer 1

托管 Rasa 服务器的最低和推荐系统要求是什么？

这在很大程度上取决于您的型号。如果您使用的是预训练的嵌入（例如 spaCy 嵌入），那么模型本身已经有几千兆字节了。此外，使用的策略数量和使用的 NLU 组件严重影响性能（例如，1 个策略明显比使用 5 个策略快）。因此，最好使用您的配置和模型设置负载测试。

最大数量是多少。 Rasa 服务器可以并行处理多少客户端请求？

Rasa (1.x) 使用 sanic 网络服务器。 Rasa 使用 1 个 sanic worker，这意味着它在进程上运行。所以从技术上讲，当时只处理了一个请求。但是，Sanic 异步运行，这意味着它可以在当前请求被阻止时处理其他请求（例如，因为它正在等待来自您的自定义操作服务器的响应）。