在LSTM问题中，如何解决损耗：nan和精度：0.0000e + 00？ Tensorflow 2.x

Question

我正在处理 LSTM问题。我试图根据文本分类（有 16种人格类型）预测MBTI （Myers-Briggs测试）人格类型。

我有一个 csv文件，该文件已进行了预处理：停用词已删除，经过了词形化，标记化，排序和填充。文件没有任何NaN值，并且文本序列仅具有整数编号。

但是，尝试训练我得到的模型时会产生问题：

loss: nan - accuracy: 0.0000e+00 - val_loss: nan - val_accuracy: 0.0000e+00

---

根据要求：结果的x，y数据和标签看起来如何

print(validation_label_seq)
[[ 5]
 [10]
 [ 4]
 [ 4]
 [15]
 [12]
 [ 1]...]

print(validation_padded[0])
maxlen = 240
array([  23,  353,  147,  677,    1,    1,  409,   10,  845, 1530,    1,
        103,  107,  998,  117, 1389,   25,    1,   28, 1889,  165,    1,
       1520,   49,  718,   65,   55,   34,    0,    0,    0,    0,    0,
          0,    0,    0,    0,    0,    0,    0,    0,    0,    0,    0,...], dtype=int32)

print(train_label_seq)
[[ 8]
 [ 9]
 [ 3]
 [ 7]
 [ 4]
 [10]
 [15]
 [11]...]

print(train_data_padded[0])
maxlen = 240
array([ 19, 301, 133, 302, 562, 133,  28, 563, 895, 896, 897, 118,  99,
       564, 397,   0,   0,   0,   0,   0,   0,   0,   0,   0,   0,   0,
         0,   0,   0,   0,   0,   0,   0,   0,   0,   0,   0,   0,   0...], dtype=int32)

results = model.evaluate(validation_padded, validation_label_seq)

test = validation_padded[10]
predict = model.predict_classes([test])
print(predict[1])

59/59 [==============================] - 0s 1ms/sample - loss: nan - accuracy: 0.0000e+00
[0]
/tensorflow-2.1.0/python3.6/tensorflow_core/python/keras/engine/sequential.py:342: RuntimeWarning: invalid value encountered in greater
  return (proba > 0.5).astype('int32')

print(predict)

array([[0],
       [0],
       ...
       [0],
       [0]], dtype=int32)

---

我尝试了什么？

• 我已经尝试过使用其他优化程序
• 降低批次大小
• 检查数据框和序列（火车和验证数据）中的值错误。

---

预期输出： 也许我在建立错误的模型，所以我将解释哪个是主要思想。我想获得一个输出或十六个输出，这决定了您的性格类型的准确性。

1 output:
INTP: 89%

16 outputs:
ENTP: 5% | INTP: 81% | INTJ: 1% | ...

如果要检查，请输入以下代码：mbti personality

数据框：mbti_df

任何改善该问题的建议都会被考虑

Answer 1

您正在代码中使用softmax作为最终输出。这是一堆概率值，并检查您在此代码中正在比较的内容。标签编码的目标。它们不匹配，这就是为什么它给出0精度的原因。我建议将softmax o / p更改为正确的格式，以便通过accuracy指标进行比较以得出正确的结果。

示例：

软件最大输出[0.2, 0.8] 其他[0 , 1]

的输出

这将导致不匹配，并且准确性会受到影响。