【问题标题】:Does hazelcast jet send/receive data from clusterhazelcast jet 是否从集群发送/接收数据
【发布时间】:2019-01-25 15:22:05
【问题描述】:

我们在服务器上托管了一个 Hazelcast 集群,并且在同一区域的不同服务器上的不同应用程序使用 Hazelcast Jet 客户端实例通过管道聚合来自 Kafka 源的数据。

在此设置中,Jet 客户端实例是否发送它从 Kafka 源 Hazelcast 集群接收到的数据,这将涉及大量 IO,或者当我们创建管道时,Hazelcast 集群本身会创建与 Kafka 的连接,此连接来自 Jet 集群而不是来自客户端应用程序?

【问题讨论】:

    标签: hazelcast-jet


    【解决方案1】:

    @Abhishek,您需要在某处拥有一个 Jet 集群。作业本身在 Jet 集群上运行。如果您将 Kafka 作为源,您的应用程序会将作业提交到 Jet 集群,而 Jet 集群将连接到数据。如果你的 sink 是同一个 Jet 集群上的 Hazelcast 映射,它会是本地写入,如果是单独的 Hazelcast 集群,那么你需要使用 Sinks.remoteMap 配置客户端连接到远程 Hazelcast 集群。

    【讨论】:

    • 感谢@Gokhan 的澄清。如果客户端应用程序有多个实例并且所有安装都在热模式下运行(所有实例都在处理数据)在这样的设置中,每个实例将向集群提交相同的作业,jet cluster 将识别相同的作业,否则它将重复并且结果会变数吗?
    猜你喜欢
    • 2021-11-11
    • 1970-01-01
    • 2023-03-08
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2021-12-14
    • 2015-09-02
    • 1970-01-01
    相关资源
    最近更新 更多