是否为tensorflow中的每个GPU指定了批处理大小

Question

在Tensorflow模型示例（细长）中，当我们指定批量大小是按GPU还是在gpus中分配的总批量大小？

python train_image_classifier.py --dataset_name = flowers --dataset_split_name = train --dataset_dir = / tmp / flowers-data --model_name = inception_v3 --log_every_n_steps = 10 --batch_size = 64 --max_number_of_steps = 100 --num_clones = 4

Answer 1

这取决于具体模型的实施方式。在这种情况下，我认为它是每个gpu的批量大小，但只有当你使用我想到的模型时才会这样。源代码应该更清楚。