【问题标题】:Does `config.gpu_options.allow_growth=True` reduce performance in the long run?从长远来看,`config.gpu_options.allow_growth=True` 会降低性能吗?
【发布时间】:2018-01-05 16:07:47
【问题描述】:
我对使用config.gpu_options.allow_growth=True 的成本感兴趣,我读到了here。
我知道最初会有一些性能损失,因为 tensorflow 是分多个步骤分配内存的,但是从长远来看会有后果吗?
例如如果我有一台只运行带有config.gpu_options.allow_growth=True 的 tensorflow 的计算机,那么经过一个小时的训练后,它会比我不使用该选项运行得更慢(每秒批次数)吗?
【问题讨论】:
标签:
tensorflow
deep-learning
【解决方案1】:
当您使用 allow_growth = True 时,GPU 内存不会预先分配,并且可以根据您的需要增长。这将导致更小的内存使用量(否则默认选项是使用整个内存),但如果用户不正确,则会降低性能,因为它需要更复杂的内存处理。