Tensorflow 中的样式迁移：分配张量时的 OOM

Question

我一直在尝试在 Windows（GPU 版本）上运行这个 Tensorflow 风格的传输实现 - https://github.com/anishathalye/neural-style，但我收到了这个错误：

ResourceExhaustedError（回溯见上文）：分配时出现 OOM 带形状的张量[64,239400] [[节点：梯度/MatMul_grad/MatMul = MatMul[T=DT_FLOAT, transpose_a=false, transpose_b=true, _device="/job:localhost/replica:0/task:0/gpu:0"](梯度/truediv_2_grad/tuple/control_dependency, 重塑）]]

我是 Tensorflow 和 Python 的完全初学者，所以我真的不知道如何解决这个问题。

Answer 1

这是内存不足错误。您没有足够的 GPU 内存来运行此图像的深度网络。

您有 2 个解决方案：

1. 如果您不关心速度，请使用 CPU 版本，因为您的 CPU 内存 (RAM) 可能比 GPU 内存多。您将 CUDA_VISIBLE_DEVICES 设置为禁用 GPU：CUDA_VISIBLE_DEVICES= python neural_style.py <content file> --styles <style file> --output <output file>
2. 处理较小的图像。提供较小尺寸的图像确实可以减少内存使用量。因此，在将图像输入脚本之前尝试对图像进行下采样；您可以尝试多种尺寸，看看您的 GPU 内存可以容纳的最大尺寸是多少。