【问题标题】:What is the difference between tensorflow on spark with the default distributed tensorflow 1.0?spark上的tensorflow与默认的分布式tensorflow 1.0有什么区别?
【发布时间】:2017-10-22 19:04:22
【问题描述】:
我正在尝试将 tensorflow on spark 安装到服务器上,正如我的老板告诉我的那样,因为他认为它很容易使用。但是我也在tensorflow网站上学习了默认的分布式tensorflow。任何专家可以告诉我这两种分布选择之间的区别吗? spark会自动分配参数server还是workers?
提前致谢。
【问题讨论】:
标签:
apache-spark
tensorflow
deep-learning
distributed
【解决方案1】:
我终于在服务器上安装了 TensorflowOnSpark(TFOS),并与默认的分布式 Tensorflow(TF) 进行了比较。我的结论是:
优点:
- TFOS 更加自动化。我不需要将集群中的哪个节点定义为 PS 节点。我也不需要将相同的代码上传到所有节点。
- 我不需要在每个节点上输入命令行来开始训练。
- 在 TFOS 上运行的代码变化不大。
缺点:
- 有时,两个工作节点会自动分配给同一个 GPU 和内核(K80 有两个内核)。并且会导致内存不足的问题。
- 运行前需要在命令行输入一长串配置。
- 您不能指定哪个节点是 PS 节点。
如果我在某个地方错了,请纠正我。