【发布时间】:2020-04-21 01:35:47
【问题描述】:
我创建数据工厂管道以将初始和增量从 Az MySql 数据库加载到数据湖中到 Az SQL Server 数据库。
将数据从 MySql 加载到 Data Lake 的初始管道一切正常。正在作为.parquet 文件持久化。
现在我需要通过一些基本的类型转换将这些加载到 SQL Server 表中。什么是最好的方法?
Databricks => 挂载这些 .parquet 文件,标准化并加载到 SQL Server 表中?
或者我可以在 Azure 上的 SQL Server 中为这些文件创建外部源并进行标准化。我们还没有加入Synapse (dwh)。
或者有更好的方法吗?
【问题讨论】:
标签: azure parquet azure-data-lake azure-databricks