【发布时间】:2021-04-01 18:30:33
【问题描述】:
我通过使用全局端点的AI Platform UI 创建了一个模型。我正在尝试部署使用 Saved Model 构建器导出的基本 tensorflow 1.15.0 模型。当我尝试部署此模型时,我在 UI 中收到 Create Version Failed. Bad model detected with error: "Error loading the model" 错误,并且我在日志中看到以下内容:
ERROR:root:Failed to import GA GRPC module. This is OK if the runtime version is 1.x
Failure: Could not reach metadata service: Internal Server Error.
ERROR:root:Command '['/tools/google-cloud-sdk/bin/gsutil', '-o', 'GoogleCompute:service_account=default', 'cp', '-R', 'gs://cml-365057443918-1608667078774578/models/xsqr_global/v6/7349456410861999293/model/*', '/tmp/model/0001']' returned non-zero exit status 1.
ERROR:root:Error loading model: 'generator' object has no attribute 'next'
ERROR:root:Error loading the model
- 框架/ML 运行时版本: Tensorflow 1.15.0
- Python: 3.7.3
奇怪的是gcloud ai-platform local predict 可以在这个导出的模型上正常工作,并且我可以在 区域 端点上部署这个完全相同的模型而没有问题。如果我尝试使用全局端点模型,它只会给出这个错误。但我需要全局端点,因为我计划使用自定义预测例程(如果我能让这个基本模型先工作的话)。
日志似乎表明从存储中复制模型存在问题?我尝试为各种 IAM 角色提供额外的查看者权限,但仍然遇到相同的错误。
感谢您的帮助。
【问题讨论】:
-
我面临同样的问题: - 部署具有全局端点的模型失败。 - 成功部署具有区域端点的模型,但大约需要 30 分钟才能完成。有趣的事实是,这发生在我最近创建的项目中。同样的过程在我一个多月前创建的项目中运行良好。
标签: tensorflow google-cloud-ml google-prediction google-ai-platform