aws sagemakergiving 模型数据存档太大。请减小模型数据存档的大小

Question

我正在使用 aws sagemaker 部署一个模型，该模型生成的工件很大。压缩后的大小约为 80GB。在 ml.m5.12xlarge 实例上的 sage maker 上部署会在部署到端点时引发此错误 The model data archive is too large. Please reduce the size of the model data archive or move to an instance type with more memory.

我发现 aws 会根据实例大小 (https://docs.aws.amazon.com/sagemaker/latest/dg/host-instance-storage.html) 附加 EBS 卷，我在这里找不到超过 30Gb 的内容。我应该在这里使用多模型端点吗？

Answer 1

“d”个实例具有更大的 (NVMe) 卷；例如，您可以尝试部署到ml.m5d.*。但请记住，您的下载和实例化时间可能会超过服务限制（根据我的经验，在 15-20 分钟之间），因此如果您无法在该时间范围内启动端点，您可能仍然会遇到错误。