【问题标题】:Relation of Executors and Bolts in Storm Stream APIStorm Stream API 中 Executor 和 Bolts 的关系
【发布时间】:2021-06-11 08:52:43
【问题描述】:

我有一个用 Storms Stream API 编写的复杂风暴查询,由多个操作组成,例如 mapfilterwindow 等等。

当我在远程集群上运行此拓扑时,我只能看到在我的机器上执行了几个执行程序,但在 Storm UI 中,出现的螺栓远远少于操作员 (=bolts) 我之前实施过。我将任务并行度设置为 1,每个操作员的任务数也设置为 1。

示例:对于使用source、2 x mapsink 运行的查询,只显示一个spout 和一个bolt

所以我的问题是:

storm 中是否发生了操作员的链接/共同定位? 我怎样才能将 Streaming API 中的每个运算符分离到一台工作机器上?

【问题讨论】:

    标签: java distributed-computing apache-storm stream-processing


    【解决方案1】:

    我建议检查操作员的日志文件。在每个螺栓和喷嘴上打印一些东西,看看它们在日志中的反应。 此外,storm conf 中有一些标签,如topology.ras.one.component.per.worker: truetopology.ras.one.executor.per.worker: truetopology.ras.acker.executors.per.worker: 1,可能对你有用。

    【讨论】:

    • 嗯,打印会告诉我有一些共同定位,但我怎么能分开呢? ras-Configs 用于我不喜欢使用的 Storms Resource Aware Scheduler
    • 是的,你是对的。我不确定到底会发生什么。但是,我认为找出发生了什么的唯一方法是检查日志、nimbus 和调度程序。
    猜你喜欢
    • 2013-05-09
    • 2015-04-22
    • 2016-09-03
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2023-03-16
    • 1970-01-01
    相关资源
    最近更新 更多