【发布时间】：2018-12-29 23:46:06
【问题描述】：
当我将 per_process_gpu_memory 从 0.5 设置为 1.0 时，内存不足会崩溃。
1) 那么，有什么想法或建议可以让它发挥作用吗？
2) 将 tensorflow 代码转换为 tensorRT 是否会提高性能（不用于训练，仅用于预测）？
【问题讨论】：
标签： tensorflow tensorrt nvidia-jetson
【发布时间】：2018-12-29 23:46:06
【问题描述】：
- 不要将内存使用设置为 1.0。请记住，TX2 是一个 SoC，CPU 内核和 GPU 都共享一个公共内存池。如果 GPU 使用了 100% 的内存，那么 CPU 就没有内存了，如果我没记错的话，默认操作系统没有为任何交换空间设置。
- 有一些基准表明使用 TensorRT 比仅在 TensorFlow 中进行推理有所改进。理论上，TensorRT 更适合在 GPU 上进行推理，并运行一组特殊的内核，在构建引擎时会选择这些内核。请参阅此处了解一些基准：https://github.com/NVIDIA-Jetson/tf_to_trt_image_classification
【讨论】：