【问题标题】:Apache Kafka Producer Program is throwing kafka.common.KafkaException, java.nio.channels.ClosedChannelException and kafka.common. How to resolve it?Apache Kafka Producer Program 正在抛出 kafka.common.KafkaException、java.nio.channels.ClosedChannelException 和 kafka.common。如何解决?
【发布时间】:2016-02-25 13:40:13
【问题描述】:
kafka.common.KafkaException: fetching topic metadata for topics [Set(tweets)] from broker [ArrayBuffer(id:0,host:localhost,port:9092)] failed
at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:72)
at kafka.producer.BrokerPartitionInfo.updateInfo(BrokerPartitionInfo.scala:82)
at kafka.producer.async.DefaultEventHandler$$anonfun$handle$2.apply$mcV$sp(DefaultEventHandler.scala:78)
at kafka.utils.Utils$.swallow(Utils.scala:172)
at kafka.utils.Logging$class.swallowError(Logging.scala:106)
at kafka.utils.Utils$.swallowError(Utils.scala:45)
at kafka.producer.async.DefaultEventHandler.handle(DefaultEventHandler.scala:78)
at kafka.producer.Producer.send(Producer.scala:77)
at kafka.javaapi.producer.Producer.send(Producer.scala:33)
at com.aail.kafka.KafkaConnection.r(KafkaConnection.java:141)
at com.aail.kafka.Postgresconnection.main(Postgresconnection.java:40)
Caused by: java.nio.channels.ClosedChannelException
at kafka.network.BlockingChannel.send(BlockingChannel.scala:100)
at kafka.producer.SyncProducer.liftedTree1$1(SyncProducer.scala:73)
at kafka.producer.SyncProducer.kafka$producer$SyncProducer$$doSend(SyncProducer.scala:72)
at kafka.producer.SyncProducer.send(SyncProducer.scala:113)
at kafka.client.ClientUtils$.fetchTopicMetadata(ClientUtils.scala:58)
... 10 more

[2016-02-17 09:02:36,876] 错误无法发送对相关 ID 在 [0,32] 中的主题推文的请求

如何解决这个问题,任何帮助将不胜感激

提前致谢

【问题讨论】:

    标签: apache-kafka kafka-consumer-api kafka-producer-api


    【解决方案1】:

    我会按照以下几点来调查您可能已经检查过的内容。

    检查控制台生产者和控制台消费者是否按预期工作。以下是启动Zookeeper和Kafka服务器并创建主题后的命令。

        bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
        bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test --from-beginning
    

    检查advertised.host.name 是否在server.properties 文件中设置为正确的值

    请让我知道这些是否有助于解决问题,或者您是否能够通过其他一些更改来解决问题。

    【讨论】:

    • 我已经检查过了,但没有找到任何解决方案 -Mehul
    • 如果你能告诉我更多关于你如何运行kafka和zookeeper以及kafka版本的信息,也许我可以尝试重现错误
    • 目前我正在使用 kafka-version:0.8.2 并且我的 Kafka-Producer-Program 可以正常工作 15-20 小时,之后它就抛出了这个异常。我不知道为什么会这样。你能检查一次吗-Mehul
    • @syedjameer 根据我的检查,我知道应该有一些额外的错误消息可以帮助确定确切的原因。比如kafka jiraissues.apache.org/jira/browse/KAFKA-1494中描述的那个。此外,您有多少经纪人?您为此主题配置了多少次复制?您可以查看日志(控制器和状态更改日志)参考grokbase.com/t/kafka/users/13abrfj8yv/…。您还可以检查 max msg 和 repl msg size 值。
    • 问题已解决。通过给多经纪人。以前与单个经纪人合作,现在与三个经纪人合作,代码现在可以正常工作
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2018-06-22
    • 1970-01-01
    • 2016-07-26
    • 2016-03-19
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多