【问题标题】:kafka + This server is not the leader for that topic-partition + kafka producerkafka + 此服务器不是该主题分区的领导者 + kafka 生产者
【发布时间】:2020-03-30 11:30:23
【问题描述】:

每个3 kafka 机器(我们在集群中有3 kafka)都收到来自server.log 的许多错误

[2019-12-05 13:25:09,529] ERROR [ReplicaFetcherThread-0-1], Error for partition [jdty.dee.rules.time,91] to broker 1001:org.apache.kafka.common.errors.NotLeaderForPartitionException: This server is not the leader for that topic-partition. (kafka.server.ReplicaFetcherThread)
[2019-12-05 13:25:09,529] ERROR [ReplicaFetcherThread-0-1], Error for partition [jdty.dee.export.profiles,96] to broker 1001:org.apache.kafka.common.errors.NotLeaderForPartitionException: This server is not the leader for that topic-partition. (kafka.server.ReplicaFetcherThread)
[2019-12-05 13:25:09,529] ERROR [ReplicaFetcherThread-0-1], Error for partition [jdty.dee.control.tt.state,40] to broker 1001:org.apache.kafka.common.errors.NotLeaderForPartitionException: This server is not the leader for that topic-partition. (kafka.server.ReplicaFetcherThread)
[2019-12-05 13:25:09,529] ERROR [ReplicaFetcherThread-0-1], Error for partition [jdty.dee.control.tt,67] to broker 1001:org.apache.kafka.common.errors.NotLeaderForPartitionException: This server is not the leader for that topic-partition. (kafka.server.ReplicaFetcherThread)

据我了解,每个主题都由一个或多个经纪人提供服务 - 一个是领导者,其余经纪人是追随者。

生产者需要向领导者代理发送新消息,领导者代理在内部将数据复制到所有追随者。

我假设,您的生产者客户端没有连接到正确的代理,它连接到跟随者而不是领导者,并且该跟随者拒绝了您的发送请求。

所以我的问题是 - 如何配置生产者配置以避免此类错误?

【问题讨论】:

  • 通常连接到领导者是自动处理的。你的经纪人健康吗?您列出的主题的复制是否有任何问题?
  • 我认为我的 kafka 集群没问题,我没有看到复制问题,但我需要更多的验证步骤来测试你写的所有内容
  • 如果可能,请发布您的建议
  • 使用kafka-topics.sh 描述您的主题。
  • 我已经做到了,所有经纪人都是平衡的 - 如果是你的问题

标签: apache-kafka kafka-producer-api hdp


【解决方案1】:

追随者经纪人从领导经纪人那里获取(领导者没有向追随者推送)。因此,似乎一个追随者经纪人试图从错误的(领导者)经纪人那里获取数据。这可能发生在一个分区的领导者改变了。相应的追随者代理应该自动更新其集群元数据以重新发现新的领导者。如果错误仍然存​​在,则表明此关注者代理在更新其元数据时遇到问题。

【讨论】:

  • 因为 zookeepers 服务器上的元数据。你的意思是我们需要检查动物园管理员吗? , 到目前为止我们在zookeeper服务器上没有发现问题,请详细说明如何检查zoo服务器上的元数据?
  • 所以你能给我一些指导吗,我们迷路了
猜你喜欢
  • 2018-05-25
  • 2023-04-05
  • 1970-01-01
  • 2021-11-08
  • 2019-01-13
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2016-06-17
相关资源
最近更新 更多