如何在keras模型中可视化学习的训练权重?

时间:2019-05-19 14:34:19

标签: python-3.x tensorflow keras jupyter-notebook

我想查看我的keras模型的可训练权重值,目标是查看训练后是否存在大的零或1补丁。

我的keras正在使用tensorflow后端。它在docker映像中运行,并从jupyter笔记本中运行。

这是我走了多远。

print(model.summary())将产生所有可训练参数的列表。

_____________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
input_1 (InputLayer)         (None, 512, 512, 3)       0         
_________________________________________________________________
conv2d_1 (Conv2D)            (None, 512, 512, 16)      448       
_________________________________________________________________
activation_1 (Activation)    (None, 512, 512, 16)      0         
_________________________________________________________________
batch_normalization_1 (Batch (None, 512, 512, 16)      64        
_________________________________________________________________
max_pooling2d_1 (MaxPooling2 (None, 256, 256, 16)      0         
_________________________________________________________________
conv2d_2 (Conv2D)            (None, 256, 256, 32)      4640  

model.trainable_weights让我看到底层的tensorflow变量。

[<tf.Variable 'conv2d_1/kernel:0' shape=(3, 3, 3, 16) dtype=float32_ref>,
 <tf.Variable 'conv2d_1/bias:0' shape=(16,) dtype=float32_ref>,
 <tf.Variable 'batch_normalization_1/gamma:0' shape=(16,) dtype=float32_ref>,
 <tf.Variable 'batch_normalization_1/beta:0' shape=(16,) dtype=float32_ref>,
 <tf.Variable 'conv2d_2/kernel:0' shape=(3, 3, 16, 32) dtype=float32_ref>,
 <tf.Variable 'conv2d_2/bias:0' shape=(32,) dtype=float32_ref>,

我该如何打印这些变量的值以查看有多少疯狂值(例如0、1或无穷大)?

1 个答案:

答案 0 :(得分:1)

最简单的方法是评估重量张量:

onStart

from keras import backend as K for w in model.trainable_weights: print(K.eval(w)) 将返回一个numpy数组,因此您可以对此执行常规检查,例如:

K.eval(w)

,您可以使用np.isnan(w) np.isinf(w) w == 0 w == 1 np.any来选择有问题的值。

欢呼