推断 sagemaker 端点时出错

Question

我使用 MXNet 框架使用自己的训练和推理代码在 sagemaker 中创建了训练作业。我能够成功训练模型并创建端点。但是在推断模型时，我收到以下错误：

‘ClientError：调用 InvokeEndpoint 操作时发生错误 (413)：HTTP 内容长度超过 5246976 字节。’

我从研究中了解到，错误是由于图像的大小造成的。图像形状为 (480, 512, 3)。我用相同形状的图像（480、512、3）训练了模型。

当我将图像大小调整为 (240, 256) 时，错误消失了。但是当我用大小为 (480, 512) 的图像训练模型时，会产生另一个错误“卷积中的形状不一致”。

我不明白为什么在推断时会出现此错误。 我们不能使用更大尺寸的图像来推断模型吗？ 任何建议都会有所帮助

谢谢，哈拉蒂

Answer 1

我认为这与 SageMaker 的 POST 响应有大小限制有关。我在文档中没有看到此端点配置选项。

如果您制作模型的泊坞窗，您应该能够手动设置大小限制，然后修改client_max_body_size，例如在 decision_trees 示例中：https://github.com/awslabs/amazon-sagemaker-examples/blob/master/advanced_functionality/scikit_bring_your_own/container/decision_trees/nginx.conf#L23