是tensorflow中为每个GPU指定的batch size

Question

在 Tensorflow 模型示例 (slim) 中，当我们指定批量大小时，是每个 GPU 的批量大小还是 GPU 之间的总批量大小拆分？

python train_image_classifier.py --dataset_name=flowers --dataset_split_name=train --dataset_dir=/tmp/flowers-data --model_name=inception_v3 --log_every_n_steps=10 --batch_size=64 --max_number_of_steps=100 --num_clones =4

Answer 1

这取决于具体模型的实施方式。在这种情况下，我相信它是每个 GPU 的批量大小，但前提是您使用的是我正在考虑的模型。源代码应该更清晰。