tensorflow 会话是否与我的其他代码并行运行？答案

【问题标题】：Is tensorflow session running in parallel to the rest of my code?tensorflow 会话是否与我的其他代码并行运行？
【发布时间】：2018-09-14 15:29:27
【问题描述】：

我正在 GPU 上运行我的会话，我想知道“session.run()”这段代码是否与我脚本中的其他代码并行运行。在循环运行“session.run()”之前，我在 CPU 上使用批处理，并希望通过 GPU 上的执行来流水线处理这个处理。这个设置是否已经满足了，还是我需要手动启动线程？

【问题讨论】：

【解决方案1】：

这完全取决于您如何编写代码。通过同时检查 CPU 和 GPU 利用率，这应该很容易检查

我通常使用tf.data.Dataset API。我使用迭代器的get_next() 方法将数据提供给网络。在这种情况下，CPU 和 GPU 并行工作。

【讨论】：

感谢您提供有关“tf.data.Dataset”的提示。我在一个集群上工作并且权限有限，所以检查 CPU/GPU 利用率对我来说并不容易，甚至是不可能的。然而，我的问题是一个基本问题：“张量流的会话是否启动了一个单独的并发线程到任何其他代码（非张量流）？

【解决方案2】：

经过一些研究，我发现“session.run”没有与您的其他代码同时运行。事实上，正如 Ujjwal 所建议的，“tf.data.Dataset”API 是流水线批处理预处理和 GPU 执行的最佳选择。

【讨论】：