通过端点调用 SageMaker Notebook 实例函数答案

【问题标题】：Calling SageMaker Notebook instance function by endpoint通过端点调用 SageMaker Notebook 实例函数
【发布时间】：2020-10-27 20:24:25
【问题描述】：

我是 AWS 的新手。现在我已经在 SageMaker notebook 实例中定义了一个图像分割函数，这将返回掩码。

我没有在那里训练我的模型，我所做的是在那里 pip install models 包，手动上传预训练的权重。其余的与在本地机器上工作非常相似：我导入包，加载权重，定义一个函数以将图像作为输入然后输出掩码。

我的问题是：有没有办法托管我的函数，以便我可以使用 URL 端点 + 一个图像信息调用它，然后它会返回掩码作为响应？

再次，我对 AWS 很陌生，我开始怀疑 SageMaker 不是为这项工作而设计的……我选择 SageMaker 的原因是对计算能力的需要，我认为我不能用纯 lambda 来完成这项工作.

【问题讨论】：

【解决方案1】：

SageMaker 推理端点当前依赖于基于 Docker 映像的接口。在基础级别，您可以设置运行 Web 服务器并响应 AWS 所需端口上的端点的 Docker 映像。本指南将向您展示如何操作：https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-inference-code.html。

这是一项烦人的工作。如果您使用的是众所周知的框架，他们有一个容器库，其中包含一些您可以重用的样板代码：https://github.com/aws/sagemaker-containers。您可能需要在那里进行一些自定义。

或者根本不使用 SageMaker 推理终端节点 :) 如果您的模型可以适应 AWS Lambda 的大小/内存限制，这是一个更简单的选择！

完全免责声明，我正在开发一个与 SageMaker 竞争的平台：Model Zoo

【讨论】：