我正在尝试为我的神经网络使用自定义指标,并且该指标只能在纪元末尾进行评估。我遇到的问题是,在每个批次中都对指标进行了评估,这不是所需的行为。请注意,我正在使用生成器,而在fit_generator
中使用keras。
validation_data装有实现keras.utils.Sequence
class DataGenerator(keras.utils.Sequence):
def __init__(self, inputs, labels, batch_size):
self.inputs = inputs
self.labels = labels
self.batch_size = batch_size
def __getitem__(self, index):
#some processing done here
return batch_inputs, batch_labels
def __len__(self):
return int(np.floor(len(self.inputs) / self.batch_size))
我尝试实现keras文档中建议的内容,但是我没有找到任何信息指定该度量仅在纪元末尾使用。
def auc_roc(y_true, y_pred):
auc, up_opt = tf.metrics.auc(y_true, y_pred)
K.get_session().run(tf.local_variables_initializer())
with tf.control_dependencies([up_opt]):
auc = tf.identity(auc)
return auc
因此,现在auc_roc
在每批处理之后被调用,而不是在epoch
结束时进行单个调用。
答案 0 :(得分:2)
from sklearn.metrics import roc_auc_score
from keras.callbacks import Callback
class IntervalEvaluation(Callback):
def __init__(self, validation_data=(), interval=10):
super(Callback, self).__init__()
self.interval = interval
self.X_val, self.y_val = validation_data
def on_epoch_end(self, epoch, logs={}):
if epoch % self.interval == 0:
y_pred = self.model.predict_proba(self.X_val, verbose=0)
score = roc_auc_score(self.y_val, y_pred)
print("interval evaluation - epoch: {:d} - score: {:.6f}".format(epoch, score))
用法:
ival = IntervalEvaluation(validation_data=(x_test2, y_test2), interval=1)
更多信息: http://digital-thinking.de/keras-three-ways-to-use-custom-validation-metrics-in-keras/