【问题标题】:Apache Kafka Producer Consumer API IssueApache Kafka 生产者消费者 API 问题
【发布时间】:2017-09-25 09:35:20
【问题描述】:

我正在尝试创建一个简单的 Java API 来测试 Kafka 生产者和消费者。当我在我的 Mac 机器上的不同终端上运行生产者和消费者时,它工作正常。但是当我尝试使用 java api 代码连接到 Kafka 服务器时,出现此错误:

线程“main”中的异常 java.lang.NullPointerException 在 kafkatest2.ProducerTest.main(ProducerTest.java:34)

生产者代码:

    package kafkatest2;
import java.util.Properties;
import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.Producer;
import org.apache.kafka.clients.producer.ProducerRecord;
public class ProducerTest {
  public static void main(String[] args) {
    Properties props = new Properties();
    props.put("bootstrap.servers", "localhost:9092");
    props.put("acks", "all");
    props.put("retries", 0);
   props.put("batch.size", 16384);
    props.put("linger.ms", 1);
    props.put("buffer.memory", 33554432);
props.put("key.serializer","org.apache.kafka.common.serialization.StringSerializer");
props.put("value.serializer","org.apache.kafka.common.serialization.StringSerializer");

    Producer<String, String> producer = null;
    try {
          producer = new KafkaProducer<>(props);
      for (int i = 0; i < 10; i++) {
        String msg = "Message " + i;
        producer.send(new ProducerRecord<String, String>("tested", msg));
        System.out.println("Sent:" + msg);
      }
    } catch (Exception e) {
      e.printStackTrace();

    } finally {
    System.out.println("last");
      producer.close();
    }

  }

}

消费者代码:

 package kafkatest2;

import java.util.Arrays;
import java.util.Properties;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;

public class ConsumerTest {

  public static void main(String[] args) {
    Properties props = new Properties();
    props.put("zookeeper.connect", "127.0.0.1:2181");
    props.put("group.id", "test-consumer-group");
    props.put("enable.auto.commit", "true");
    props.put("auto.commit.interval.ms", "1000");
    props.put("auto.offset.reset", "earliest");
    props.put("session.timeout.ms", "30000");
    props.put("key.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");
    props.put("value.deserializer", "org.apache.kafka.common.serialization.StringDeserializer");

    KafkaConsumer<String, String> kafkaConsumer1 = new KafkaConsumer<>(props);
    kafkaConsumer1.subscribe(Arrays.asList("tested"));
    while (true) {
      ConsumerRecords<String, String> records = kafkaConsumer1.poll(10);
      for (ConsumerRecord<String, String> record : records) {
        System.out.println("Partition: " + record.partition() + " Offset: " + record.offset() + " Value: " + record.value() + " ThreadID: " + Thread.currentThread().getId());
      }
    }

  }

}

请让我知道我错过了什么?配置值有问题吗??

谢谢, 维普尔

【问题讨论】:

    标签: apache-kafka kafka-consumer-api kafka-producer-api


    【解决方案1】:

    堆栈跟踪表明您的生产者代码中存在 NPE:

    Exception in thread "main" java.lang.NullPointerException at 
    kafkatest2.ProducerTest.main(ProducerTest.java:34)
    

    如果producer = new KafkaProducer&lt;&gt;(props); 抛出异常,就会发生这种情况。如果是这样,当您进入 finally 块时,将不会定义局部变量 producer,因此调用 producer.close() 将引发 NPE。只需将调用封装在 if (producer != null) 块中即可。

    【讨论】:

    • 感谢迈克尔的 cmets。但问题是为什么 producer = new KafkaProducer(props);正在抛出错误.???我无法解决这个问题。
    • 您在上面粘贴的 Producer 代码适用于我(使用 Kafka 0.11.0.1 测试)。如果还是有问题,我建议你为消费者启用 log4j 日志,你需要像在 Producer 中一样删除zookeeper.connect 并用bootstrap.servers 替换它。
    • 你能告诉我在哪里可以找到 0.11 Kafka 程序集的 kaka-spark-streaming 依赖项吗?我正在尝试创建一个 spark 消费者,但由于缺少类而出错。
    • 导入 org.apache.spark.streaming.scheduler.ReceiverLauncher;导入 org.apache.spark.streaming.Scheduler;我无法获得这两个类的依赖关系。
    • 不知道,建议你发个新问题
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2017-11-03
    • 2020-01-11
    • 2019-10-16
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多