标签： tensorflow tpu
我正在TPU v3-8 TF 1.15上训练基于BERT的模型。检查点文件的初始分配直接达到4GB（检查点文件的大小已预先分配为4GB，而不是稳定增长）。实际的最终文件大小约为1GB（在GPU上训练时）。我需要这个文件要小一些。是否有一些默认参数（可能与TPU v3-8或TF 1.15有关）使它将检查点文件大小预分配为4GB？