【发布时间】:2022-12-19 15:53:31
【问题描述】:
根据 SDK-v2 的 ManagedOnlineEndpoint documentation,auth_mode 必须通过 key 或 aml_token 提供。这意味着,部署端点后,我们需要在向 API 发送 POST 请求时包含 api 密钥或令牌。我想知道是否有办法绕过提供这些身份验证方法,例如,通过 Azure ManagedIdentity?
我绕过密钥/令牌身份验证的动机是,我有一个 ML 模型(通过 ManagedOnlineEndpoint 部署)需要调用多个其他辅助 ManagedOnlineEndpoint,然后将它们的输出用作(主)模型中的输入特征。如果不必为那些次级模型端点管理 API 密钥,那就太好了。
我有一个可行的解决方案,但我很好奇是否有其他替代方法或更优雅的方法。 当前的解决方案是,我将次要模型的 API 密钥存储在 Azure KeyVault 中,然后在需要时检索它们,即在(主)模型的评分脚本中定义。
【问题讨论】:
标签: azure-machine-learning-service azureml-python-sdk azure-machine-learning-workbench