【问题标题】:Possible bug when using Azure DevOps release pipeline and Azure Databricks Delta Lake LS使用 Azure DevOps 发布管道和 Azure Databricks Delta Lake LS 时可能出现的错误
【发布时间】:2021-09-19 05:13:24
【问题描述】:

当我尝试通过我们的 Azure DevOps 发布管道推广使用 Azure Databricks Delta Lake LS 的管道时遇到了问题。

我们的 ADF 管道使用 LS 快速查找 parquet 文件。这个 parquet 文件是使用 Databricks 创建的。在 LS 中,我们有域和现有集群 ID 的字段。

当我点击发布按钮时,我注意到在“ARMTemplateParametersForFactory.json”文件中我能看到的唯一参数是域的。

因此,当通过我们的 Azure DevOps 发布管道提升此管道时,我无法使用特定于我们的 tst ADF 管道的集群覆盖集群值。

然后我尝试通过复制测试然后添加以下内容在“覆盖参数”部分添加参数:

-AzureDatabricksDeltaLake_properties_typeProperties_clusterId “某个集群”

我确保以与其他覆盖参数值(例如:S3、SAP BW 和 Teradata LS)相同的格式将其正确添加到测试文件中,但我收到警告,因为“此参数不是ARMTemplateParametersForFactory.json"的发布过程可以被打破。然后我可以看到格式不同步。

所以问题似乎是在我在 ADF 主存储库中点击“发布”后,AzureDatabricksDeltaLake 的域参数被添加而没有问题,但集群 ID 没有。我检查了 json 文件,确实将其视为可能的参数之一。

有没有我可能遗漏的步骤?至于 Teradata、SAP BW 甚至 S3,我能够看到所有不同的参数自动显示在 ARMTemplateParametersForFactory.json 中,而不会出现其中一些参数丢失的问题。

就目前而言,发布过程确实有效,但随后我必须手动更新 tst 和 prd ADF 管道,因为这些值将被开发集群信息覆盖。

有没有人遇到过类似的情况?

【问题讨论】:

标签: azure-devops azure-pipelines azure-data-factory-2


【解决方案1】:

以防万一这个问题有解决方案并且它不是错误。问题是我不知道如何在 ADF 中向 ARM 模板添加参数。

我添加了 clusterID 参数并发布了我能够在我的发布管道中看到的管道。

查看如何知道要添加到模板参数的快速方法是单击 LS 旁边的大括号。这将显示此 LS 将接受的所有可能参数。

这里是解决方案的链接:https://docs.microsoft.com/en-us/answers/questions/477501/possible-bug-when-using-azure-devops-release-pipel.html#answer-487806

【讨论】:

    猜你喜欢
    • 2019-11-23
    • 2022-12-18
    • 2020-10-04
    • 2022-01-02
    • 2021-06-24
    • 1970-01-01
    • 2022-11-30
    • 2022-06-28
    • 1970-01-01
    相关资源
    最近更新 更多