【问题标题】:How to move the data from HDInsight Cluster with WASB to Azure SQL database using Azure data factory如何使用 Azure 数据工厂将数据从带有 WASB 的 HDInsight 群集移动到 Azure SQL 数据库
【发布时间】:2017-10-09 04:46:34
【问题描述】:

我是 Azure 数据工厂的新手,目前我正在使用 Azure 数据工厂将数据从带有 WASB(windows azure 存储 blob)的 HDInsight 集群移动到 Azure SQL 数据库。

在使用 Azure 数据工厂之前,我使用 SQOOP 将数据从带有 WASB 的 HDInsight Cluster 移动到 Azure SQL 数据库,但我的要求是使用 azure 数据工厂而不是 SQOOP。

Getting started with Sqoop in HDInsight

为此,我从 Azure 数据工厂打开了复制向导,并将源选择为“HDFS”,如下图所示。

但我不清楚在 HDFS 源连接窗口下输入了哪些凭据,即使我阅读了以下有关 HDFS 的链接服务属性

的文档

Move data from on-premises HDFS using Azure Data Factory

您能否解释一下在 HDFS 连接下输入了哪些凭据,并告诉我如何将数据从 HDFS 移动到 Azure SQL 数据库?

【问题讨论】:

    标签: azure-blob-storage azure-hdinsight azure-sql-database azure-data-factory


    【解决方案1】:

    如果您在 Azure 门户上有一个 Azure 数据工厂实例,请点击下图 1 中的Copy data(preview) 按钮打开一个新窗口(图 2),用于管道设置向导。

    图 1. 复制数据(预览)

    图 2. 管道向导

    然后,您只需按照向导设置 HDFS 的源和 SQL Azure 的目标信息,即可运行管道。

    关于配置两个HDFS source & SQL Azure targat数据集的更多细节,可以参考HDFS & SQL Azure的两个官方教程。

    同时,将数据从 HDInsight 移动到 SQL Azure 的另一种方法是使用 [Sqoop][5],您可以参考官方博客 Getting started with Sqoop in HDInsight 了解用法。

    【讨论】:

    • 谢谢,当我尝试在复制活动向导下创建 HDFS 源连接时。当输入 Windows 身份验证密码时,我遇到了“请在继续之前修复此页面上的错误”之类的问题。
    猜你喜欢
    • 2015-12-17
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2016-10-02
    • 1970-01-01
    • 2023-04-11
    • 2022-08-18
    • 2019-05-18
    相关资源
    最近更新 更多