Question

我的目标是在每个时期之后将Keras日志（准确性，丢失等）保存到Google云端硬盘

我正在使用以下代码：

from google.colab import drive
drive.mount('/content/drive')

class HistoryCallback(callbacks.Callback):
    def on_epoch_end(self, epoch, logs={}):
        with open("drive/My Drive/"+csv_path, "a") as myfile:
            myfile.write(str(epoch)+","+str(logs)+"\n")

classifier.fit_generator（...，callbacks = [HistoryCallback（）]）

在驱动器上，我有时会得到奇怪的输出，如下所示：

25  {'acc': 0.963835932997043   loss': 0.10425430848152908  val_acc': 0.7071953016230713    val_loss': 1.1386645126622854   lr': 2.3961632e-06}

2366427 loss': 1.1117452404459112   val_acc': 0.5577092514076597    val_loss': 1.0548135743792362   lr': 4.980681e-06}  
2   {'acc': 0.6330444829612712  loss': 0.9205646275682026   val_acc': 0.5994126287500939    val_loss': 0.9518886575614829   lr': 4.956604e-06}
3   {'acc': 0.6983824379057777  loss': 0.7753418573921365   val_acc': 0.6314243757777277    val_loss': 0.8930798317542336   lr': 4.923029e-06}
4   {'acc': 0.7437319468601393  loss': 0.6659318362681732   val_acc': 0.6464023491359492    val_loss': 0.866631023106596    lr': 4.8800885e-06}
5   {'acc': 0.7798526863016054  loss': 0.5813610065455109   val_acc': 0.6637298091742786    val_loss': 0.8554121221564764   lr': 4.8279526e-06}
6   {'acc': 0.8090410167584868  loss': 0.5098161270401851   val_acc': 0.6657856092579039    val_loss': 0.8496283279291509   lr': 4.7668264e-06}
7   {'acc': 0.8317157712132858  loss': 0.45465362796302755  val_acc': 0.6734214392352559    val_loss': 0.8745797048056179   lr': 4.6969512e-06}
8   {'acc': 0.8491478913819287  loss': 0.4042509938624124   val_acc': 0.688986784105959 val_loss': 0.8465897937878288   lr': 4.6186033e-06}
....

如您所见，排序混乱，缺少纪元0，并且2366427是精度的一部分，其中缺少纪元编号和一些先前的数字

以前有人遇到过并且知道如何处理吗？

编辑： 我注意到，在某些时期之后，GDrive上的文件也为0字节，然后在下一个时期将其填充回去

Answer 1

一个猜测：您的训练正在多个线程/子进程中进行，因此您的on_epoch_end处于战斗状态-同时执行的副本均以“ a”挂起模式打开同一文件，并且（部分）覆盖彼此的输出。如果您写入每个时间段的文件或以其他方式序列化输出，问题是否会消失？

保存到GDrive时的Keras历史记录顺序问题

1 个答案: