【问题标题】:Running Flink 1.5 on Yarn在 Yarn 上运行 Flink 1.5
【发布时间】:2018-08-22 00:28:36
【问题描述】:

我们在 hadoop 2.6 集群上运行 Flink 1.5.0 Yarn 会话。 ./bin/yarn-session.sh -n 4 -jm 1024 -tm 4096 -qu 但是,这不会启动任何任务管理器。日志说 Flink JobManager 以领导者 id 000000 开始...... 在 JobManager Web 界面中也没有任务管理器。当我们向这个 jobManager 提交一个 flink 作业时,一些 taskmannagers 确实会在执行该作业的 Web 界面上生成。这是从 Flink1.5.0 开始的预期行为吗? 以同样的方式运行 Flink1.4.2 确实会在启动时生成任务管理器。

【问题讨论】:

    标签: apache-flink


    【解决方案1】:

    是的,被称为 FLIP-6 的 Flink 运行时的重新设计包含在 Flink 1.5 中,它具有您注意到的效果。有关 Flink 现在如何与 YARN 交互的简洁描述,请参阅this section of the documentation

    Flink 1.5 包含一个配置选项,用于使用以前的作业部署模型,称为 legacy mode

    【讨论】:

    • "之后,AM 开始为 Flink 的 TaskManagers 分配容器,它会从 HDFS 下载 jar 文件和修改后的配置。这些步骤完成后,Flink 就设置好了,可以接受了工作。”这就是内部文档中的内容。显然没有帮助/解释正在发生的事情.. Flink 如何仅根据并行度来决定作业的资源?
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-05-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2017-08-17
    相关资源
    最近更新 更多