【问题标题】:oozie spark action table not found未找到 oozie spark 动作表
【发布时间】:2021-07-02 20:36:32
【问题描述】:

我正在尝试在 apache oozie 中设置 spark 操作工作流,尽管在 hive 上下文中的 spark 代码中调用 select * from db.table 时出现以下错误:

org.apache.spark.sql.AnalysisException: Table not found: `db`.`table`; line 1 pos 34

此 spark 作业与 spark-submit 一起使用,因此我似乎无法确定问题所在。我已将 hive-site.xml 添加到先前问题中推荐的各个位置,例如工作区 lib 目录和工作区目录,并将其添加到 job.xml 设置中,尽管我仍然遇到相同的问题。

我在部署模式集群和主纱线中运行。

我尝试了很多组合,但不知道还能做什么。

我哪里错了?

【问题讨论】:

  • 你能分享你的工作流代码吗? credentials 节点通常有问题。

标签: apache-spark hive oozie oozie-workflow


【解决方案1】:

需要添加 Hive 配置。比如在工作流de文件所在的action中加入。

<spark xmlns="uri:oozie:spark-action:1.0">
   <!-- ... ->
   <file>${hiveConfig}</file>
</spark>

在job.properties中必须是引用:

hiveConfig=/user/oozie/extraconfig/hive-site.xml

这个文件必须在集群的每个节点中

【讨论】:

    猜你喜欢
    • 2016-06-30
    • 2017-12-02
    • 1970-01-01
    • 1970-01-01
    • 2019-05-05
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多