【问题标题】:How does Flink scale for hot partitions?Flink 如何针对热分区进行扩展?
【发布时间】:2021-02-19 07:10:06
【问题描述】:

如果我有一个用例,我需要连接两个流或从单个流聚合某种指标,并且我使用键控流对事件进行分区,Flink 如何处理数据可能存在的热分区的操作不适合内存,需要跨分区拆分?

【问题讨论】:

标签: join streaming apache-flink flink-streaming


【解决方案1】:

Flink 不会对热分区自动执行任何操作。

如果您有一个始终如一的热分区,您可以手动拆分它并预先聚合拆分。

如果您担心避免因某个分区的意外负载峰值而导致内存不足错误,您可以使用溢出到磁盘的状态后端。

如果您想要更多动态数据路由/分区,请查看Stateful Functions APIthe Dynamic Data Routing section of this blog post

如果您想要自动缩放,请参阅Autoscaling Apache Flink with Ververica Platform Autopilot

【讨论】:

    猜你喜欢
    • 2018-03-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2014-08-31
    • 2017-11-25
    相关资源
    最近更新 更多