【问题标题】:How to set queue name for Pig on Tez?如何在 Tez 上为 Pig 设置队列名称?
【发布时间】:2016-12-01 20:56:56
【问题描述】:

在 TEZ 上运行 Pig 时如何从命令行设置队列名称?

我想从命令行运行一个 Pig 脚本,例如:

pig -useHCatalog -p INPUT=input_dir \
                                 -p 'OUT_FILE=out_file \
                                 -p UDF_PATH=udf.py \
                                 -f ./script_name.pig \
                                 -Dmapred.job.queue.name=my_queue_name \
                                 -x tez;

我尝试了以下设置:

-tez.job.queue.name=my_queue_name
-q mapreduce.job.queuename=my_queue_name
-Dmapred.job.queue.name=my_queue_name
-q my_queue_name

但是,我的作业没有在我指定的队列中运行。

谢谢!

【问题讨论】:

    标签: hadoop mapreduce apache-pig hadoop-yarn tez


    【解决方案1】:

    属性是tez.queue.name

    <property>
        <name>tez.queue.name</name>
        <value>myqueue</value>
    </property> 
    

    所以试试

    -tez.queue.name=my_queue_name
    

    【讨论】:

      【解决方案2】:

      在我的 pig (0.16.0.2.5.3.0-37) 版本中,我无法在命令行中设置此参数。

      改为添加

      SET tez.queue.name 'my_queue';

      PIG 脚本的开头确实有效。

      【讨论】:

        猜你喜欢
        • 2018-09-09
        • 2020-03-12
        • 2021-12-04
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        • 1970-01-01
        相关资源
        最近更新 更多