【问题标题】:HDFS Path for Spark Submit and Flink on YARNYARN 上 Spark 提交和 Flink 的 HDFS 路径
【发布时间】:2015-08-20 12:03:33
【问题描述】:

我使用 cloudera live vm,我有一个 hadoop 和 spral 独立集群。 现在我想用 spark submit 和 flink run 脚本提交我的工作。这也有效。但我的应用程序可以在 hdfs 中找到输入和输出文件的路径。 我将路径设置为:hdfs://127.0.0.1:50010/user/cloudera/outputs 我从中得到的来自港口的信息:

如何在java中设置hdfs的路径??

最好的问候, 保罗

【问题讨论】:

    标签: java hadoop apache-spark hdfs apache-flink


    【解决方案1】:

    您不必设置 DataNode 主机的路径。在“概述”页面上,您将看到 NameNode 的连接信息,这也是您必须连接的地方。

    【讨论】:

    • 我认为它看起来不错,但这取决于您运行的用户。
    • 在 cloudera 上拥有所有权限,在 cloudera live vm 上我只有 cloudera 登录。
    猜你喜欢
    • 2016-11-05
    • 1970-01-01
    • 1970-01-01
    • 2015-08-20
    • 1970-01-01
    • 2020-12-27
    • 2015-09-25
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多