Question

我试图按特征预测价格。我选择了一个非常简单的模型，但它的工作非常奇怪。损失函数非常高，我无法看出问题所在。

这是我的模特：

# define base model
def baseline_model():
    # create model
    model = Sequential()
    model.add(Dense(62, input_dim = 62, kernel_initializer='normal', activation='relu'))
    model.add(Dense(31, kernel_initializer='normal', activation='relu'))
    model.add(Dense(15, kernel_initializer='normal', activation='relu'))
    model.add(Dense(1, kernel_initializer='normal'))
    # Compile model
    model.compile(loss='mean_squared_error', optimizer='adam')
    return model

这就是我准备数据的方式:( One-Hot，我将所有数据分成训练和测试）

df = encode_onehot(dataframe, cols=['Shape', 'Cut', 'Color', 'Clarity', 'Polish', 'Symmetry', 'Culet', '\tFluorescence'])

dataset = df.values
X = dataset[1:,4:66]
Y = dataset[1:,2]

X_train, X_test, y_train, y_test = train_test_split(X, Y, test_size=0.25, random_state=42)

最后，培训：

baseline_model().fit(X_train, y_train, epochs=10, batch_size=64)
scores = baseline_model().evaluate(X_test, y_test, verbose=0)
print(baseline_model().summary())

结果非常悲伤：

Epoch 1/10
149767/149767 [==============================] - 4s - loss: 104759338.0333     
Epoch 2/10
149767/149767 [==============================] - 4s - loss: 104594236.9627     
Epoch 3/10
149767/149767 [==============================] - 4s - loss: 104556662.2948

并没有好转。

我做错了什么？

Answer 1

正如@Yu-Yang所说，你使用均方误差作为损失函数。在损失值非常大之前我遇到了同样的问题，在将损失函数改为 mean_squared_logarithmic_error 时，我得到了理想的结果。

model %>% compile(
optimizer = optimizer_rmsprop(lr=0.0001),
loss = loss_mean_squared_logarithmic_error,
metrics = c("accuracy")
)

损失值更改为

大纪元1/10
326981/326981 [==============================] - 17s - 损失：0.0048 - acc：0.9896

希望这有用！

Answer 2

像预处理步骤一样标准化您的数据集
正如我所看到的，您使用的是回归模型，因此使用回归模型时，您的损失将与使用模型进行分类时的损失完全不同
如果需要分类。设置 categorical_crossentropy 或类似的损失函数。并为ml中的最后一层设置激活功能。

最诚挚的问候！

Keras极高的损失

2 个答案: