【问题标题】:What is the difference between tensorflow on spark with the default distributed tensorflow 1.0?spark上的tensorflow与默认的分布式tensorflow 1.0有什么区别?
【发布时间】:2017-10-22 19:04:22
【问题描述】:

我正在尝试将 tensorflow on spark 安装到服务器上,正如我的老板告诉我的那样,因为他认为它很容易使用。但是我也在tensorflow网站上学习了默认的分布式tensorflow。任何专家可以告诉我这两种分布选择之间的区别吗? spark会自动分配参数server还是workers?

提前致谢。

【问题讨论】:

    标签: apache-spark tensorflow deep-learning distributed


    【解决方案1】:

    我终于在服务器上安装了 TensorflowOnSpark(TFOS),并与默认的分布式 Tensorflow(TF) 进行了比较。我的结论是:

    优点:

    1. TFOS 更加自动化。我不需要将集群中的哪个节点定义为 PS 节点。我也不需要将相同的代码上传到所有节点。
    2. 我不需要在每个节点上输入命令行来开始训练。
    3. 在 TFOS 上运行的代码变化不大。

    缺点:

    1. 有时,两个工作节点会自动分配给同一个 GPU 和内核(K80 有两个内核)。并且会导致内存不足的问题。
    2. 运行前需要在命令行输入一长串配置。
    3. 您不能指定哪个节点是 PS 节点。

    如果我在某个地方错了,请纠正我。

    【讨论】:

      猜你喜欢
      • 1970-01-01
      • 1970-01-01
      • 2020-03-16
      • 1970-01-01
      • 1970-01-01
      • 2018-11-10
      • 1970-01-01
      • 2016-11-15
      • 2017-10-25
      相关资源
      最近更新 更多