在 Sagemaker 超时时运行 R答案

【问题标题】：Running R on Sagemaker timeout在 Sagemaker 超时时运行 R
【发布时间】：2020-09-12 15:15:00
【问题描述】：

我正在使用批量转换作业在 Sagemaker 上运行 R 脚本，并提供您自己的 docker 功能。过程适用于较小的数据集，但是当我尝试运行较大的数据集时，作业在 40 分钟后失败并出现以下错误：“模型服务器在 600 秒内没有响应 /invocations 请求”。 Cloudwatch 日志显示 CPU 使用率为 100%，内存低于 10%。它似乎无法响应 ping。有什么办法可以将这 600 秒覆盖到更高的值？或者有什么方法可以限制正在运行的容器的 CPU 利用率？

【问题讨论】：

标签： r amazon-web-services docker amazon-sagemaker inference

【解决方案1】：

推理请求似乎有一个固定的超时时间，如下所述：https://docs.aws.amazon.com/sagemaker/latest/dg/your-algorithms-batch-code.html#your-algorithms-batch-code-how-containers-should-respond-to-inferences

SageMaker 的设计方式是训练模型花费大部分时间并且推理速度应该很快（就像神经网络等的情况一样）。

如果您还在 R 脚本中估计模型 - 您需要在 SageMaker 的训练部分进行。

对于您的应用程序，在 AWS Batch (https://aws.amazon.com/batch/) 上运行您的作业可能是一个更好的选择

【讨论】：