Question

我有一个Tensorflow顺序网络，该网络在训练期间始终返回Nan的损失值。我正在使用熊猫和喀拉拉邦。

数据的示例是：

strictDiscoveryDocumentValidation: false

我了解到此示例中的某些日期已进行了分类标记，但这是由于缺少值所致。该模型的目标值是成功概率，它是基于历史数据的，我将其排除在这个问题之外。这是一个值[0,100]。网络配置为：

Actual_GP1  Budgeted_GP_Value_Cleanup  Budgeted_GP_Value_New  \
0          2.0                        2.0                  95.00   
1          2.0                        2.0               63684.55   
3          2.0                        2.0               26022.57   
4          2.0                        2.0              440759.17   
6          2.0                        2.0                  95.00   
7          2.0                        2.0             3519120.00   
9          2.0                        2.0                   4.00   
12         2.0                        2.0                   4.00   
13         2.0                        2.0              355960.00   
14         2.0                        2.0               62745.00  



Costing_Date  Created_Time  Date_Time_16  Delivery_Date  Engineering_Date  \
0              4      1.579523           4.0            4.0                 4   
1              4      1.575390           4.0            4.0                 4   
3              4      1.575471           4.0            4.0                 4   
4              4      1.575020           4.0            4.0                 4   
6              4      1.579508           4.0            4.0                 4   
7              4      1.578304           4.0            4.0                 4   
9              4      1.574600           4.0            4.0                 4   
12             4      1.570805           4.0            4.0                 4   
13             4      1.573831           4.0            4.0                 4   
14             4      1.576153           4.0            4.0                 4   

Exchange_Rate     GP  ...  Last_Activity_Time  Modified_Time  \
0             2.0  100.0  ...            4.000000       1.579523   
1             2.0   30.0  ...            1.579519       1.579519   
3             2.0   44.0  ...            1.579516       1.579516   
4             2.0   37.0  ...            1.579516       1.579516   
6             2.0  100.0  ...            4.000000       1.579508   
7             2.0   44.0  ...            1.579507       1.579507   
9             2.0  100.0  ...            1.579506       1.579506   
12            2.0   32.0  ...            1.579506       1.579506   
13            2.0   44.0  ...            1.579506       1.579506   
14            2.0   44.5  ...            1.579506       1.579506   

Next_step_actioned_by   PO_Date   PO_Week  Production_End_Date  \
0                     4.0  1.580429  4.000000                    4   
1                     4.0  1.579824  1.579478                    4   
3                     4.0  1.575850  1.575850                    4   
4                     4.0  1.575418  1.575245                    4   
6                     4.0  1.580429  4.000000                    4   
7                     4.0  1.583798  1.583798                    4   
9                     4.0  1.579219  1.578874                    4   
12                    4.0  1.580429  1.580083                    4   
13                    4.0  1.585613  1.585526                    4   
14                    4.0  1.580429  1.580083                    4   

Production_Start_Date  Project_Value  Prototype_Date  \
0                       4          95.00               4   
1                       4      212281.82               4   
3                       4           3.00               4   
4                       4           4.00               4   
6                       4          95.00               4   
7                       4     7998000.00               4   
9                       4           4.00               4   
12                      4           4.00               4   
13                      4      809000.00               4   
14                      4      141000.00               4   

Revenue_Forecast_Probability_Weighting  
0                                      1.0  
1                                      2.0  
3                                      3.0  
4                                      4.0  
6                                      1.0  
7                                      5.0  
9                                      4.0  
12                                     4.0  
13                                     7.0  
14                                     8.0

，输出为

dataset=tf.data.Dataset.from_tensor_slices((df.values, target.values))
train_dataset=dataset.shuffle(len(df)).batch(1)
print(df.shape)
def get_compiled_model():
    model = tf.keras.Sequential([
    tf.keras.layers.Dense(24, activation='relu', input_shape=(df.shape[-1],)),
    tf.keras.layers.Dense(16, activation='relu'),
    tf.keras.layers.Dense(8, activation='relu'),
    tf.keras.layers.Dense(1, activation='sigmoid')
    ])


    model.compile(optimizer='adam', loss='mse',metrics=['accuracy'])

    return model
model=get_compiled_model()
model.fit(train_dataset, epochs=20)
model.save("keras_saved_model.h5")

有人可以为我指出正确的方向，以保持一致的准确性以及这些零损失值。

编辑：解决方案是将目标值除以100，使其适合[0,1]范围，因为最终的激活层是S型函数。感谢Matias Valdenegro指出了这一点

Answer 1

即使在评论部分提供了答案，也可以在此处为社区提供答案。

由于目标值的范围是[0,100]，因此用户已通过将其除以100来对其进行归一化，并使用了S型激活函数，从而解决了此问题。
您可以使用以下代码将规范化功能应用于某个功能。

要获取数字列的最小值和最大值：

def _z_score_params(column):
    mean = traindf[column].min()
    std = traindf[column].max()
    return {'min': min, 'max': max}


def zscore(col):

  min_value = _z_score_params(col)[min]
  max_value = _z_score_params(col)[max]
  return (col - min_value)/max_value 

feature_name = ‘column_name_to_normalize’
normalized_feature = tf.feature_column.numeric_column(
  feature_name,
  normalizer_fn=zscore)

Keras顺序模型训练中的Nan损失

1 个答案: