这是我的代码:
model = Sequential()
model.add(Dense(50, input_dim=33, init='uniform', activation='relu'))
for u in range(3): #how to efficiently add more layers
model.add(Dense(33, init='uniform', activation='relu'))
model.add(Dense(122, init='uniform', activation='sigmoid'))
model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])
#This line of code is an update to the question and may be responsible
model.fit(X_train, Y_train, nb_epoch=35, batch_size=20, validation_split=0.2, callbacks=[EarlyStopping(monitor='val_loss', patience=10)])
它正在运行时代并且在准确性方面变得越来越好,但随后损失开始变得很低,而且准确度也在下降。我使用model.predict
并从中获得了错误。
任何人都得到了修复?
答案 0 :(得分:4)
如果您使用categorical_crossentropy
作为损失函数,则模型的最后一层应为softmax
。
您正在使用sigmoid
,它有可能使输出的所有维度接近0,这将导致丢失溢出,因此nan
。