【发布时间】:2021-09-11 04:50:30
【问题描述】:
是否可以使用 helm 图表将 Azure ML 生成的映像部署到自我管理的 Kubernetes?我们只想消费图像和模型。
我看到,当它部署到 AKS 中的推理集群时,Azure ML 设置了某些 ENV 变量。那么,想了解是否有人在自定义 kubernetes 集群上手动完成了此设置,有哪些挑战?
原因是部署到已经由生产团队管理的集群。
【问题讨论】:
-
您能否添加有关您正在尝试的自定义 kubernetes 的更多详细信息。
-
我们已经在测试和生产环境中拥有 AKS 集群。因此,我们希望通过 AZDO 管道而不是 AzML 管道将 AzML 生成的映像部署到该集群,并完全控制正在部署的内容。但是,图像如何使用模型是我们的问题,以及我们如何将模型传递给图像。
-
我已经看到 AzML 对 Kubernes 的部署,POD 有一些 ENV 变量。一个是AZUREML_MODEL_DIR:/var/azureml-app/azureml-models/model_name.pkl/2 问题是如何将模型复制到这个位置以及如何设置这个变量?
标签: azure-machine-learning-studio azure-machine-learning-service azureml azure-machine-learning-workbench azureml-python-sdk