haozhengfei

 


Spark性能调优之JVM调优

通过一张图让你明白以下四个问题
               1.JVM GC机制,堆内存的组成
               2.Spark的调优为什么会和JVM的调优会有关联?--因为Scala也是基于JVM运行的语言
               3.Spark中OOM产生的原因
               4.如何在JVM这个层面上来对Spark进行调优
              
   补充:
               Spark程序运行时--JVM堆内存分配比例
                   RDD缓存的数据(0.6)    默认
                   对象_task运行时产生的(0.2)    默认
                   聚合内存_shuffle read拉来的数据(0.2)    默认
                手动分配内存时,不能去调节task运行时的内存,可以去调节其他的RDD Memory OR Shuffle read_聚合内存来间接调节task运行内存
posted on 2017-03-10 23:58  日月的弯刀  阅读(925)  评论(0编辑  收藏  举报

分类:

技术点:

相关文章:

  • 2021-06-20
  • 2021-11-21
  • 2021-10-24
  • 2022-01-25
  • 2021-05-10
  • 2021-10-29
  • 2021-11-22
  • 2021-11-22
猜你喜欢
  • 2021-11-22
  • 2021-12-06
  • 2022-12-23
  • 2022-02-15
  • 2021-07-07
  • 2021-12-13
  • 2021-09-25
相关资源
相似解决方案