【问题标题】:Message queue over high latency WAN?高延迟 WAN 上的消息队列?
【发布时间】:2019-02-02 05:33:10
【问题描述】:

是否有针对具有 >200 毫秒 RTT 的 WAN 优化的消息队列系统?例如,从美国向亚洲发送消息。

我正在寻找一个 MQ,它可以一起批处理消息、跨多个 TCP 连接管道传输大量消息和/或使用 UDP 来爆破消息(如 UDT)。

【问题讨论】:

    标签: message-queue wan


    【解决方案1】:

    如果您将 Kafka 用于单个地理位置内的消息队列,我能想到两种解决方案适合您所描述的问题陈述。消息传递的可靠性和延迟优化将是您项目的两个关键目标。

    Kafka 社区有一个 MirrorMaker 工具 (https://cwiki.apache.org/confluence/pages/viewpage.action?pageId=27846330),由 Uber 扩展,以 ureplicator 的形式 (https://eng.uber.com/ureplicator/)。

    【讨论】:

    • 这看起来很有希望,但我不知道它们是否针对高延迟链路上的传输进行了优化。如果只有 1 个连接,它会很慢。
    • 所以,Kafka 有分区的概念,这就是它成为高吞吐量排队系统的原因。多个生产者/消费者可以同时向/从不同的分区写入/读取。因此,如果您关心 WAN 吞吐量,您可以在 WAN 两侧充分划分您的主题,以便您的 kafkamirror/ureplicator 为每个目标分区生成一个 tcp 连接,从而实现更高的吞吐量。请注意,要在分区内获得排序保证,kafka 仅允许一个消费者(每个消费者组)用于单个分区。
    猜你喜欢
    • 2014-06-10
    • 1970-01-01
    • 1970-01-01
    • 2015-11-06
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多