使用自定义预测例程时没有这样的文件或目录：'/tmp/model/0001' google cloud ai platform

Question

gcloud 实例上的 /tmp/model 文件夹似乎是空的。看起来文件没有从存储帐户正确复制，即使标准错误日志另有说明。

请问我该怎么做，我错过了什么。当我发出预测请求时，我能够成功创建模型版本。

这是用于创建模型版本的命令：

gcloud beta ai-platform versions create $VERSION_NAME  --model $MODEL_NAME  --runtime-version 1.15  --python-version 3.7  --origin gs://$BUCKET_NAME/custom_prediction_routine/model/  --package-uris gs://$BUCKET_NAME/custom_prediction_routine/custom_predict_code-0.1.tar.gz  --prediction-class predictor.MyPredictor

这是from_path类方法：

@classmethod
def from_path(cls, model_dir):
    sys.stderr.write(str(model_dir))
    return cls(model_dir)

Answer 1

根据您共享的代码，您似乎没有直接在 from_path 中加载模型，而是直接将路径发送到您的 Predictor 实例。

尝试直接在from_path 中加载模型，例如，使用 keras 模型：

@classmethod
def from_path(cls, model_dir):
    model = keras.models.load_model(model_dir) # Load with Keras, or the appropriate format
    return cls(model)

如果问题仍然存在，请尝试从 from_path 函数内部发出预热预测请求。例如：

@classmethod
def from_path(cls, model_dir):
    model = keras.models.load_model(model_dir)
    predictor = cls(model)
    outputs = predictor.predict([[1,2,3,4,5]]) # Here goes your warm up prediction request 
    return predictor

编辑

该问题已在 Google 问题跟踪器中以 here 报告。响应是，模型和将在 model_dir 中使用的所有工件都需要在 from_path 的执行期间加载，并存储在预测器类中，如果它们将在预测期间使用。