【发布时间】:2021-09-19 05:13:24
【问题描述】:
当我尝试通过我们的 Azure DevOps 发布管道推广使用 Azure Databricks Delta Lake LS 的管道时遇到了问题。
我们的 ADF 管道使用 LS 快速查找 parquet 文件。这个 parquet 文件是使用 Databricks 创建的。在 LS 中,我们有域和现有集群 ID 的字段。
当我点击发布按钮时,我注意到在“ARMTemplateParametersForFactory.json”文件中我能看到的唯一参数是域的。
因此,当通过我们的 Azure DevOps 发布管道提升此管道时,我无法使用特定于我们的 tst ADF 管道的集群覆盖集群值。
然后我尝试通过复制测试然后添加以下内容在“覆盖参数”部分添加参数:
-AzureDatabricksDeltaLake_properties_typeProperties_clusterId “某个集群”
我确保以与其他覆盖参数值(例如:S3、SAP BW 和 Teradata LS)相同的格式将其正确添加到测试文件中,但我收到警告,因为“此参数不是ARMTemplateParametersForFactory.json"的发布过程可以被打破。然后我可以看到格式不同步。
所以问题似乎是在我在 ADF 主存储库中点击“发布”后,AzureDatabricksDeltaLake 的域参数被添加而没有问题,但集群 ID 没有。我检查了 json 文件,确实将其视为可能的参数之一。
有没有我可能遗漏的步骤?至于 Teradata、SAP BW 甚至 S3,我能够看到所有不同的参数自动显示在 ARMTemplateParametersForFactory.json 中,而不会出现其中一些参数丢失的问题。
就目前而言,发布过程确实有效,但随后我必须手动更新 tst 和 prd ADF 管道,因为这些值将被开发集群信息覆盖。
有没有人遇到过类似的情况?
【问题讨论】:
标签: azure-devops azure-pipelines azure-data-factory-2