【问题标题】:Solved : No space left on device in google Cloudml BASIC TIER. What is the disk size of each tier in cloudml?已解决:在 google Cloudml BASIC TIER 设备上没有剩余空间。 cloudml中每一层的磁盘大小是多少?
【发布时间】:2019-08-22 11:40:50
【问题描述】:

在 Cloud ML 的 BASIC 层中为大于 20GB 的数据训练我的模型时,我的工作失败了,因为 Cloudml 机器中没有可用的磁盘空间,而且我无法在 gcloud ml 文档中找到任何详细信息 [https://cloud.google.com/ml-engine/docs/tensorflow/machine-types] .

在确定我的培训工作的 TIER 时需要帮助,而且工作详细信息图中的利用率非常低。

Expand all | Collapse all {
insertId:  "1klpt2"  
jsonPayload: {
created:  1554434546.3576794   
levelname:  "ERROR"   
lineno:  51   
message:  "Failed to train : [Errno 28] No space left on device"   
pathname:  "/root/.local/lib/python3.5/site- 
packages/loggerwrapper.py"   
}
labels: {
compute.googleapis.com/resource_id:  ""   
compute.googleapis.com/resource_name:  "cmle-training- 
10361805218452604847"   
compute.googleapis.com/zone:  ""   
ml.googleapis.com/job_id/log_area:  "root"   
ml.googleapis.com/trial_id:  ""   
}
logName:  "projects/backend/logs/master-replica-0"  
receiveTimestamp:  "2019-03-31T12:32:30.07683Z"  
resource: {
labels: {
job_id:  ""    
project_id:  "backend"    
task_name:  "master-replica-0"    
}
type:  "ml_job"   
}
severity:  "ERROR"  
timestamp:  "2019-03-31T12:32:26.357679367Z"   
}

【问题讨论】:

  • 所有机器都带有 ~100GB 磁盘。请问可以尝试删除缓存或旧文件吗?

标签: google-cloud-ml


【解决方案1】:

已解决:出现此错误不是因为存储空间,而是因为共享内存 tmfs。 sklearn fit 在训练时消耗了所有共享内存。解决方法:设置JOBLIB_TEMP_FOLDER 环境变量,to /tmp 解决了这个问题。

【讨论】:

    猜你喜欢
    • 2017-03-31
    • 1970-01-01
    • 2011-01-13
    • 2020-11-28
    • 1970-01-01
    • 2020-01-14
    • 1970-01-01
    • 2010-12-05
    • 2012-03-08
    相关资源
    最近更新 更多