【发布时间】:2017-08-29 20:39:44
【问题描述】:
我正在尝试在 TensorFlow 上模拟我的去中心化算法,因此我想创建我的 Model 对象的副本,其中包括变量/占位符/常量到我的每个 Worker 对象中。例如,一个模型包含
self.w = tf.Variable(tf.zeros([10, 784]))
self.X = tf.placeholder(shape=(BATCH_SIZE, 784), dtype=tf.float32)
现在我想为所有Workers 创建这些东西的副本,以便我可以分别初始化、训练和测试它们。实际上,我可以使用显式的 for_loops 为每个工作人员创建它们,但我想象一些 Distributor 对象将其自己的虚拟模型复制到所有工作人员,而不是深入并自己操作 Model 对象。
我试过了
-
tf.identity,但它将变量转换为张量。 -
copy.deepcopy只是给出错误。 - 记录变量的所有内容并使用
tf.Variable重新创建它们。它很麻烦而且不全面。
任何想法将不胜感激!谢谢!
【问题讨论】:
标签: python tensorflow distributed-computing