如何在一段时间无负载后解决托管 QnA Maker/Azure 认知搜索服务的高延迟问题答案

【问题标题】：How to address high latency on Managed QnA Maker/Azure Cognitive Search Service after a period of no load如何在一段时间无负载后解决托管 QnA Maker/Azure 认知搜索服务的高延迟问题
【发布时间】：2021-07-05 01:36:47
【问题描述】：

如何防止 Azure 认知搜索服务在空载一段时间后变冷？

我在聊天机器人中使用 QnaMaker（托管 QnA Maker 服务版本）。

QnaMaker 在一段时间未使用后似乎处于空闲状态。第一个查询需要 7 秒才能完成。第一个查询之后的每个查询都会在一秒钟内完成。

聊天机器人本身（使用 Microsoft Bot Framework V4 nodejs 开发）显示没有延迟。即使有一段时间没有使用（感谢机器人应用服务中的“始终在线”功能）

我使用 QnaMaker 的稳定 GA 版本和托管版本（预览版）。在第一个版本中，QnaMaker 的 appservice 启用了“Always On”功能。对于预览版，没有可以查看的appservice。

Chatbotcode 初始化 QnaMaker

const { QnAMaker } = require('botbuilder-ai');
        const endpoint_fr = {
            knowledgeBaseId: process.env.QnAKbId_fr,
            endpointKey: process.env.QnaEndpointKey_fr,
            host: process.env.QnaHostName_fr
        };
        try {
            this.qnaMaker_fr = new QnAMaker(endpoint_fr, {});
        } catch (err) {
            console.warn(`QnAMaker Exception: ${err} Check your QnAMaker configuration in .env`);
        }

对 QnAMaker 服务的实际调用

   qnaResults = await this.qnaMaker_fr.getAnswers(stepContext.context);

QnAMaker 堆栈链接到 Azure 搜索资源。我正在使用的具有定价层基本（1 个副本、分区和搜索单元）正在使用 10 个索引（允许 15 个）来存储 7 个知识库。地点是西欧。

如何防止 Azure 认知搜索服务在空载一段时间后变冷？

[更新] 进行了更多挖掘并得出结论，这种冷启动仅发生在（预览）托管服务中的知识库中。我决定将所有 KB 移至稳定版本，冷启动问题停止了。这也可能与我在西欧并且托管版本仅在北欧可用这一事实有关

【问题讨论】：

您能否详细介绍一下您的架构？我听说您正在使用 QnA Maker 服务、机器人服务和 Azure 认知搜索，但不确定它们是如何被调用的以及从哪里调用的，这将影响如何解决冷启动问题。
嗨@JenniferMarsman-MSFT。我确实添加了一些额外的信息。希望这就是您想要的。

标签： botframework azure-cognitive-search qnamaker

【解决方案1】：

很高兴您使用“始终开启”。 QnA Maker 团队有时建议使用 Azure 应用洞察监视器添加快速可用性/Web 测试（请参阅https://docs.microsoft.com/azure/azure-monitor/app/monitor-web-app-availability）。这本质上是每隔几秒的一次探测服务，可以解决冷启动问题。

【讨论】：

您好詹妮弗，感谢您的回答。 Wrt 团队建议：他们是否意味着对服务的简单调用/ping（通过 url 调用）？我对该解决方案的问题是，我希望它不会触发 QnAMaker，因为我无法通过 url 调用向 qnamaker 服务发送问题。

【解决方案2】：

我不确定 App Insights，但我确实对 QnA Maker 服务进行了定期测试，主要是为了监控正常运行时间，但它可以使服务保持“温暖”。我设置了一个 Azure 函数（链接到与 QnA Maker 应用服务相同的应用服务计划）并让它以定义的时间间隔进行标准 REST 查询（我使用 15 分钟，你可以使用任何东西，尤其是如果你正在使用标准服务层对查询数量没有限制或额外费用）。您只需要从资源中获取适当的密钥来发出请求并将其存储在您的配置或 Key Vault 中，我假设您已经从您的机器人本身熟悉了这些密钥。不应为您增加任何成本。

如果只需 ping 即可使服务保持温暖，Jennifer 的建议可能会奏效，但我可以告诉你，我通过 Azure Functions 运行的自动化测试有 0 个问题。

【讨论】：

谢谢比尔。我将此问题缩小到 QnA 服务的托管版本（预览版）。我将所有 KB 移回稳定版本，冷启动问题停止
很高兴您解决了这个问题。要关闭此问题，您可以使用您在此评论中提供的信息提交您自己的答案并接受它。这也将有助于其他访问此页面并遇到类似问题的人。

【解决方案3】：

我将所有 QNA 知识库移回稳定版本。托管版本似乎导致冷启动。不知道为什么，但我的机器人又在执行了。

【讨论】：