我开发了一个5层神经网络进行分类,它始终为每一行预测相同的概率,最终预测同一类别。
我将Relu用作激活功能(如果我使用S型或tanh,则输出NaN)和tf.nn.sigmoid_cross_entropy_with_logits
模型将是这样:
X, Y = create_placeholders(n_x, n_y)
parameters = initialize_parameters()
Z5 = forward_propagation(X, parameters)
cost = cost_function(Z5, Y)
optimizer = tf.train.AdamOptimizer(learning_rate = learning_rate).minimize(cost)
预测:
predicted = tf.nn.sigmoid(Z5)
correct_pred = tf.equal(tf.round(predicted), Y)
accuracy = tf.reduce_mean(tf.cast(correct_pred, tf.float32))
在前100个时期中,成本值一直下降到0.24,但预测的值没有改变。
起初,我认为这是造成类不平衡问题的原因,但我将其修复(1和0分别进行过采样和采样),所以这应该不是问题。
预先感谢