如何表现RDD之间的依赖。在RDD中将依赖划分成了两种类型:窄依赖(narrow dependencies)和宽依赖(wide dependencies)。窄依赖是指父RDD的每个分区都只被子RDD的一个分区所使用。相应的,那么宽依赖就是指父RDD的分区被多个子RDD的分区所依赖。例如,map就是一种窄依赖,而join则会导致宽依赖(除非父RDD是hash-partitioned,见下图)。

spark学习系列——10 spark宽依赖和窄依赖


具体例子:

spark学习系列——10 spark宽依赖和窄依赖

宽、窄 依赖有什么作用?


哪些算子是宽依赖,窄依赖?

相关文章:

  • 2021-09-22
  • 2021-10-29
  • 2021-08-04
  • 2021-08-30
  • 2021-11-23
  • 2021-07-08
  • 2021-06-01
猜你喜欢
  • 2022-01-08
  • 2021-11-26
  • 2021-07-23
  • 2022-03-05
  • 2021-07-18
  • 2021-11-16
相关资源
相似解决方案