对于某些权重,我想停止对我的keras模型进行梯度计算。因为我不想训练这些重量。 如何使用tf.stop_gradient作为输入是张量列表(model.get_weights),而不是所需的张量。
这只是一个玩具示例。
cat tmp.log | grep xml | awk 'BEGIN { FS = "[" } ; { print $2 }'| awk 'BEGIN { FS = "]" } ; { print $1 }'
我想要一个像grad1这样的渐变矩阵。对于这种模型:
import tensorflow as tf
import numpy as np
def entry_stop_gradients(target, mask):
mask_h = tf.abs(mask-1)
return tf.stop_gradient(mask_h * target) + mask * target
mask = np.array([1., 0, 1, 1, 0, 0, 1, 1, 0, 1])
mask_h = np.abs(mask-1)
emb = tf.constant(np.ones([10, 5]))
matrix = entry_stop_gradients(emb, tf.expand_dims(mask,1))
parm = np.random.randn(5, 1)
t_parm = tf.constant(parm)
loss = tf.reduce_sum(tf.matmul(matrix, t_parm))
grad1 = tf.gradients(loss, emb)
grad2 = tf.gradients(loss, matrix)
with tf.Session() as sess:
print sess.run(loss)
print sess.run([grad1, grad2])
这个掩码矩阵:
model = tf.keras.Sequential([
tf.keras.layers.Dense(2, activation=tf.sigmoid, input_shape=(2,)),
tf.keras.layers.Dense(2, activation=tf.sigmoid)
])