2-Dence神经网络精度优化

Question

下面你可以看到我使用的数据集＆＃34; sorted_output＆＃34;为了构造一个具有2个隐藏密集层和一个输入，一个输出层的ANN。我的问题是为什么我的准确度极低（62.5％）？我觉得既然我的输入数据（列A-U）和输出数据（列V）都是二进制形式，这应该会让我达到100％的准确率。我错了吗？

from keras.models import Sequential
from keras.layers import Dense
from sklearn.cross_validation import train_test_split
import numpy

# fix random seed for reproducibility
seed = 7
numpy.random.seed(seed)
dataset = numpy.loadtxt("sorted_output.csv", delimiter=",")
# split into input (X) and output (Y) variables
X = dataset[:,0:21]
Y = dataset[:,21]
# split into 67% for train and 33% for test
X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.33, random_state=seed)
# create model
model = Sequential()
model.add(Dense(12, input_dim=21, init='orthogonal', activation='relu'))
model.add(Dense(10, init='uniform', activation='relu'))
model.add(Dense(1, init='orthogonal', activation='sigmoid'))
# Compile model
model.compile(loss='binary_crossentropy', optimizer='sgd', metrics=['accuracy'])
# Fit the model
model.fit(X_train, y_train, validation_data=(X_test,y_test), nb_epoch=150, batch_size=10)

Answer 1

网络的准确性取决于许多因素。很难理解为什么在你的情况下准确性如此之低。这实际上取决于基础数据分布以及您在培训期间捕获相关信息的网络状况。

我建议您监控损失并查看模型是否过度拟合列车数据。如果是这种情况，您可能必须使用某种正则化来改进泛化。否则，您可以增加网络的深度并检查结果是否更好。

这些绝不是详尽的方法清单。有时，更改优化程序也会有所帮助，具体取决于数据的分布方式。