Spark Worker原理解析

1.Spark源码剖析
2.Worker启动Driver源码
3.Worker启动Executor源码
4.Worker与Master交互

Spark Worker原理解析
一：worker启动driver内幕和流程机制

1， Cluster中的Driver失败的时候，如果supervise为true，则启动该Driver的Worker会负责重新启动该Driver

2， DriverRunner启动进程是通过processBuilder中的process.get.waitFor来完成；

3， ExecutorRunner启动进程与DriverRunner类似：通过processBuilder中的process.waitFor来完成；

相关文章：

  • 2021-04-20
  • 2021-08-02
  • 2021-07-31
  • 2021-11-30
  • 2021-05-07
  • 2021-06-11
  • 2021-11-05
猜你喜欢
  • 2021-08-11
  • 2022-12-23
  • 2022-12-23
  • 2021-09-06
  • 2021-10-24
  • 2021-12-19
相关资源
相似解决方案
热门标签
Java Python linux javascript Mysql C# Docker 算法 前端 SpringBoot Redis Vue spring 设计模式 .net core .net kubernetes c++ 数据库 数据结构 大数据 js 机器学习 微服务 Android Go 程序员 面试 JVM ASP.net core 云原生 人工智能 后端 PHP git CSS golang k8s Nginx Django mybatis 深度学习 多线程 React 架构 devops 爬虫 云计算 Spring Boot LeetCode