窄依赖和宽依赖

RDD之间有一系列的依赖关系,依赖关系又分为窄依赖和宽依赖。

窄依赖 ---- 减少或不变

父RDD和子RDD partition之间的关系是一对一的。或者父RDD和子RDD partition关系是多对一的。不会有shuffle的产生。

宽依赖 ---- 增多

父RDD与子RDD partition之间的关系是一对多。会有shuffle的产生

宽窄依赖图理解

7. RDD 窄依赖&宽依赖
7. RDD 窄依赖&宽依赖

相关文章:

  • 2021-07-23
  • 2022-01-21
  • 2022-03-05
  • 2022-12-23
  • 2022-12-23
猜你喜欢
  • 2022-12-23
  • 2021-09-01
  • 2022-01-15
  • 2021-07-08
  • 2022-01-14
  • 2021-07-10
  • 2021-09-25
相关资源
相似解决方案