Tensorflow 和多处理：传递会话

Question

我最近一直在研究一个使用神经网络进行虚拟机器人控制的项目。我使用 tensorflow 对其进行编码，并且运行流畅。到目前为止，我使用顺序模拟来评估神经网络的性能，但是，我想并行运行多个模拟以减少获取数据所需的时间。

为此，我正在导入 python 的 multiprocessing 包。最初，我将 sess 变量 (sess=tf.Session()) 传递给将运行模拟的函数。但是，一旦我得到任何使用此sess 变量的语句，该过程就会退出而不会发出警告。经过一番搜索，我发现了这两个帖子： Tensorflow: Passing a session to a python multiprocess 和Running multiple tensorflow sessions concurrently

虽然它们高度相关，但我无法弄清楚如何使其发挥作用。我尝试为每个单独的过程创建一个会话，并将神经网络的权重分配给它的可训练参数，但没有成功。我也尝试将会话保存到文件中，然后在进程中加载​​它，但也没有运气。

是否有人能够将会话（或会话的克隆）传递给多个进程？

谢谢。

Answer 1

您不能使用 Python 多处理以直接的方式将 TensorFlow Session 传递给 multiprocessing.Pool，因为无法腌制 Session 对象（它基本上不可序列化，因为它可能管理 GPU 内存和状态像那样）。

我建议使用actors 并行化代码，它本质上是“对象”的并行计算模拟，用于管理分布式设置中的状态。

Ray 是一个很好的框架。您可以定义一个 Python 类来管理 TensorFlow Session 并公开一个运行模拟的方法。

import ray
import tensorflow as tf

ray.init()

@ray.remote
class Simulator(object):
    def __init__(self):
        self.sess = tf.Session()
        self.simple_model = tf.constant([1.0])

    def simulate(self):
        return self.sess.run(self.simple_model)

# Create two actors.
simulators = [Simulator.remote() for _ in range(2)]

# Run two simulations in parallel.
results = ray.get([s.simulate.remote() for s in simulators])

这里还有一些parallelizing TensorFlow with Ray 的示例。

请参阅Ray documentation。请注意，我是 Ray 开发人员之一。

Answer 2

我使用 keras 作为包装器，以 tensorflow 作为后盾，但应该应用相同的一般原则。

如果你尝试这样的事情：

import keras
from functools import partial
from multiprocessing import Pool

def ModelFunc(i,SomeData):
    YourModel = Here
    return(ModelScore)

pool = Pool(processes = 4)
for i,Score in enumerate(pool.imap(partial(ModelFunc,SomeData),range(4))):
    print(Score)

它会失败。但是，如果你尝试这样的事情：

from functools import partial
from multiprocessing import Pool

def ModelFunc(i,SomeData):
    import keras
    YourModel = Here
    return(ModelScore)

pool = Pool(processes = 4)
for i,Score in enumerate(pool.imap(partial(ModelFunc,SomeData),range(4))):
    print(Score)

它应该工作。尝试为每个进程分别调用 tensorflow。