【问题标题】:Azure Data Factory v2 Data TransformationAzure 数据工厂 v2 数据转换
【发布时间】:2018-10-29 21:35:06
【问题描述】:

我是 Azure 数据工厂的新手。我的问题是,我需要将数据从本地 Oracle 和本地 SQL Server 移动到 Blob 存储。数据需要转换成 JSON 格式。每行作为一个 JSON 文件。这将被移至事件中心。我怎样才能做到这一点。任何建议。

【问题讨论】:

    标签: json oracle azure azure-data-factory-2


    【解决方案1】:

    Data copy tool 作为 azure 数据工厂的一部分是用于将本地数据复制到 azure 的选项。 数据复制工具带有一个配置向导,您可以在其中执行所有必需的步骤,例如配置源、接收器、集成管道等。 在源代码中,您需要编写一个自定义查询以从您需要的 json 格式的表中获取数据。

    如果 SQL 服务器选择 json,您将使用选项 OPENJSON, FOR JSON AUTO 将行转换为 json。在 SQL 2016 中受支持。对于旧版本,您需要探索可用的选项。在最坏的情况下,您可以在 C#/java 中编写一个简单的控制台应用程序来获取行,然后将它们转换为 json 文件。然后您可以将文件上传到 azure blob 存储。如果这是一次性活动,则此选项应该可以工作,您可能不需要数据工厂。

    对于 ORACLE,您可以使用 JSON_OBJECT 函数。

    【讨论】:

    • 如何将每一行分解为一个 JSON 文件
    【解决方案2】:

    您可以使用查找活动 + foreach 活动。在 foreach 内部,有一个复制活动。请参考这篇文章。 How to copy СosmosDb docs to Blob storage (each doc in single json file) with Azure Data Factory

    【讨论】:

    • 这是真正有用的方法。谢谢!
    猜你喜欢
    • 1970-01-01
    • 2020-10-27
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-11-24
    • 2018-12-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多