如何保证每个worker在ps-worker分发中读取到不重复的数据？

Question

我正在尝试 TensorFlow 分发，根据此处的文档 https://www.tensorflow.org/deploy/distributed，我们正在使用数据并行性。我已经设置了 ps-worker 脚本，它按预期启动并运行。 但有一个问题请帮忙：

如何保证每个worker从挂载的存储中读取不同的数据？ 例如：

我有数据： 1,2,3,4,5,6,7,8,9,10 在我的存储中

还有两个工人：worker1 和 worker2

我假设 worker1 将读取数据：1,2,5,7,9 和 worker2 读取 3,4,6,8,10 因为数据并行。 TensorFlow中是否有相关代码实现了这种魔法，如果没有，如何保证每个worker从挂载的存储中读取不同的数据？

谢谢， 张艾伦

Answer 1

简短的回答是，当前“核心”张量流中没有对数据拆分的内置支持。有关更多详细信息和理由，请参阅此问题的最佳答案 - Distributed Training with tf.estimator resulting in more training steps。

话虽如此，目前基于 DistributionStrategy 概念正在大力开发一种新的更清洁的抽象。在这个模块中，有一种分发数据集的方法-https://www.tensorflow.org/versions/master/api_docs/python/tf/contrib/distribute/DistributionStrategy#distribute_dataset。然而，这个模块相当粗糙，它的许多部分还没有实现。目前我不建议使用它，除非你觉得很冒险。