【发布时间】:2021-07-31 04:41:21
【问题描述】:
在GCP AI Platform Unified 的文档中说:
即使您已将预测节点配置为使用 GPU,AI Platform 也会根据 CPU 使用情况扩展您的节点;因此,如果您的预测吞吐量导致 GPU 使用率高,但 CPU 使用率不高,则您的节点可能无法按预期扩展
我们如何根据 GPU 使用情况进行扩展?
【问题讨论】:
标签: google-cloud-platform google-ai-platform
在GCP AI Platform Unified 的文档中说:
即使您已将预测节点配置为使用 GPU,AI Platform 也会根据 CPU 使用情况扩展您的节点;因此,如果您的预测吞吐量导致 GPU 使用率高,但 CPU 使用率不高,则您的节点可能无法按预期扩展
我们如何根据 GPU 使用情况进行扩展?
【问题讨论】:
标签: google-cloud-platform google-ai-platform
[1]https://cloud.google.com/ai-platform/prediction/docs/machine-types-online-prediction#specifying_gpus
[2]https://cloud.google.com/ai-platform-unified/docs/resources/release-notes
【讨论】: