【问题标题】:Issue when writing to elasticsearch using es-hadoop使用 es-hadoop 写入 elasticsearch 时出现问题
【发布时间】:2016-08-04 03:21:40
【问题描述】:

当我尝试使用带有 es-hadoop 的 mapreduce 程序写入 Elasticsearch 时遇到此异常。我正在尝试写入我的 Elasticsearch 集群中已经存在的 index=employee 和 type=basic

我的堆栈跟踪:-

线程“main”中的异常 org.elasticsearch.hadoop.EsHadoopIllegalArgumentException:没有资源 ['es.resource'](索引/查询/位置)指定在 org.elasticsearch.hadoop.util.Assert.hasText(Assert.java:30) 在 org.elasticsearch.hadoop.mr.EsOutputFormat.init(EsOutputFormat.java:257) 在 org.elasticsearch.hadoop.mr.EsOutputFormat.checkOutputSpecs(EsOutputFormat.java:233) 在 org.apache.hadoop.mapreduce.JobSubmitter.checkSpecs(JobSubmitter.java:266) 在 org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:139) 在 org.apache.hadoop.mapreduce.Job$10.run(Job.java:1290) 在 org.apache.hadoop.mapreduce.Job$10.run(Job.java:1287) 在 java.security.AccessController.doPrivileged(Native Method) 在 javax.security.auth.Subject.doAs(Subject.java:422) 在 org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1657) 在 org.apache.hadoop.mapreduce.Job.submit(Job.java:1287) 在 org.apache.hadoop.mapreduce.Job.waitForCompletion(Job.java:1308) 在 com.mstack.mapreduce.DIGDriver.main(DIGDriver.java:22) 在 sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 在 sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) 在 sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 在 java.lang.reflect.Method.invoke(Method.java:497) 在 org.apache.hadoop.util.RunJar.run(RunJar.java:221) 在 org.apache.hadoop.util.RunJar.main(RunJar.java:136)

驱动类:-

Configuration conf = new Configuration();
Job job = Job.getInstance(conf, "es-hadoop");
job.setJarByClass(DIGDriver.class);
conf.set("es.nodes", "localhost:9200");
conf.set("es.port", "9200");
conf.set("es.resource", "employee/basic");
job.setNumReduceTasks(0);
job.setOutputFormatClass(EsOutputFormat.class);
job.setMapperClass(DIGMapper.class);
job.setMapOutputValueClass(MapWritable.class);
conf.setBoolean("mapreduce.map.speculative", false);
conf.setBoolean("mapreduce.reduce.speculative", false);
boolean status = job.waitForCompletion(true);
if (status) {
System.exit(0);
} else {
System.out.println("Job Failed : Some error!");
System.exit(1);
}

【问题讨论】:

    标签: hadoop elasticsearch elasticsearch-hadoop


    【解决方案1】:

    通过更改配置解决了我自己:-

    conf.set("es.nodes", "localhost");
    conf.set("es.port", "9200");
    

    【讨论】:

      猜你喜欢
      • 2020-05-12
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2010-11-18
      • 1970-01-01
      • 1970-01-01
      • 2013-03-17
      • 1970-01-01
      相关资源
      最近更新 更多