谷歌云 MLEngine 预测错误 429

Question

我正在使用 Tensorflow 和 MLEngine。
基于faster_rcnn_resnet101_coco_11_06_2017，我使用Object Detection API训练了一个带有自定义数据的模型。

导出的模型大小为 190.5MB。

本地预测工作正常。但是 MLEngine 在使用 gcloud 时给了我以下错误：

"error": {
    "code": 429,
    "message": "Prediction server is out of memory, possibly because model size 
    is too big.",
    "status": "RESOURCE_EXHAUSTED"
 }

使用NodeJS client library时出现以下错误：

code: 429,
errors: 
 [ { message: 'Prediction server is out of memory, possibly because model size is too big.',
     domain: 'global',
     reason: 'rateLimitExceeded' } ] }

我用于测试预测的图像是尺寸为 700px*525px (365kb) 和 373px*502px (90kb) 的 PNG

我不确定如何进行。
对象检测是否需要比 MLEngine 提供的更多内存？
模型的大小真的是这里的问题吗？我该如何改进？

感谢您的帮助和想法！

Answer 1

有一个page in documentation 解释了如何在在线预测的上下文中解释 http 状态代码。在这种特殊情况下，运行模型的节点内存不足（另请参阅this 对使用 ML 引擎的 googler 的旧问题的回答）。建议的解决方案是减少模型大小和/或使用更小的批量大小（默认设置为64 records per batch）。考虑到您的模型已经小于maximum 250 MB，您可能需要先考虑后一种解决方案。