【问题标题】:Deploy Azure ML to custom kubernetes将 Azure ML 部署到自定义 kubernetes
【发布时间】:2021-09-11 04:50:30
【问题描述】:

是否可以使用 helm 图表将 Azure ML 生成的映像部署到自我管理的 Kubernetes?我们只想消费图像和模型。

我看到,当它部署到 AKS 中的推理集群时,Azure ML 设置了某些 ENV 变量。那么,想了解是否有人在自定义 kubernetes 集群上手动完成了此设置,有哪些挑战?

原因是部署到已经由生产团队管理的集群。

【问题讨论】:

  • 您能否添加有关您正在尝试的自定义 kubernetes 的更多详细信息。
  • 我们已经在测试和生产环境中拥有 AKS 集群。因此,我们希望通过 AZDO 管道而不是 AzML 管道将 AzML 生成的映像部署到该集群,并完全控制正在部署的内容。但是,图像如何使用模型是我们的问题,以及我们如何将模型传递给图像。
  • 我已经看到 AzML 对 Kubernes 的部署,POD 有一些 ENV 变量。一个是AZUREML_MODEL_DIR:/var/azureml-app/azureml-models/model_name.pkl/2 问题是如何将模型复制到这个位置以及如何设置这个变量?

标签: azure-machine-learning-studio azure-machine-learning-service azureml azure-machine-learning-workbench azureml-python-sdk


【解决方案1】:

Download the entry script file and conda dependencies file 解释了我们如何可以访问 Train 模块的 Output + logs 选项卡下的 score.py 和 conda_env.yaml 文件。

article 展示了如何让您的 Web 服务安全地访问您的 Azure 资源,而无需直接在 score.py 脚本中嵌入凭据或管理令牌。

https://docs.microsoft.com/en-us/azure/machine-learning/how-to-deploy-azure-kubernetes-service?tabs=python#create-a-new-aks-cluster

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2022-01-24
    • 2020-04-07
    • 2015-04-06
    • 2020-03-29
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多