【问题标题】:How can i call sagemaker inference endpoint using API gateway我如何使用 API 网关调用 sagemaker 推理端点
【发布时间】:2019-02-14 13:23:34
【问题描述】:

我正在尝试使用 AWS 集成从 api 网关调用 sagemaker 推理端点。我不想在 API 网关和 sagemaker 运行时之间使用 lamdba。我按照这个doc 设置api网关方法但失败了。

如何从 API 网关调用 sagemaker 推理端点?

Web 浏览器 ----> API 网关 ----> Sagemaker 端点

【问题讨论】:

  • 它在 api gateway 和 sagemaker 之间使用 lambda。
  • 您必须使用中间的 Lambda,因为 Lambda 函数是获得调用 SageMaker 端点的权限的函数。

标签: amazon-web-services aws-api-gateway amazon-sagemaker


【解决方案1】:

API Gateway 支持直接与 AWS 服务集成(无需 Lambda)。您可以按照https://docs.aws.amazon.com/apigateway/latest/developerguide/getting-started-aws-proxy.html 的说明进行操作。

当您转到上述说明中的第 4 步时,对于 AWS 服务选项,您可以选择“SageMaker Runtime”来定位调用端点。

【讨论】:

    【解决方案2】:

    通过使用称为映射模板的 API Gateway 功能,API Gateway 可用于将 Amazon SageMaker 推理终端节点作为 REST API。此功能使 REST API 可以直接与 Amazon SageMaker 运行时终端节点集成,从而避免使用任何中间计算资源(例如 AWS Lambda 或 Amazon ECS 容器)来调用终端节点。结果是一个更简单、更快、运行成本更低的解决方案。有关如何针对 Sagemaker 运行时端点配置 API Gateway 映射模板的更多详细信息,请参阅此blog post

    【讨论】:

      【解决方案3】:

      这是一个很长的问题,因为这是一个老问题,但有人可能会在这里结束。

      阅读有关在 sagemaker 中调用推理端点的文档的第一部分,您会发现您只能使用 POST 调用它并在正文中传递您的输入数据。

      https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_runtime_InvokeEndpoint.html

      因此可能是您在 API Gateway 中创建了一个 GET 方法,并且您需要将您的请求参数映射到正文负载,或者只是设置一个 POST 方法。

      【讨论】:

        猜你喜欢
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 2019-04-23
        • 2021-09-28
        • 1970-01-01
        • 2019-07-04
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多