神经网络预测每一行的概率相同

时间:2018-11-18 10:18:19

标签: python tensorflow machine-learning deep-learning

我开发了一个5层神经网络进行分类,它始终为每一行预测相同的概率,最终预测同一类别。

我将Relu用作激活功能(如果我使用S型或tanh,则输出NaN)和tf.nn.sigmoid_cross_entropy_with_logits

模型将是这样:

 X, Y = create_placeholders(n_x, n_y)

parameters = initialize_parameters()

Z5 = forward_propagation(X, parameters)

cost = cost_function(Z5, Y)

optimizer = tf.train.AdamOptimizer(learning_rate = learning_rate).minimize(cost)

预测:

predicted = tf.nn.sigmoid(Z5)
correct_pred = tf.equal(tf.round(predicted), Y)
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))

在前100个时期中,成本值一直下降到0.24,但预测的值没有改变。

Prediction

起初,我认为这是造成类不平衡问题的原因,但我将其修复(1和0分别进行过采样和采样),所以这应该不是问题。

预先感谢

0 个答案:

没有答案