使用tf.contrib.layers.fully_connected在TensorFlow中进行正则化

时间:2016-07-23 19:20:38

标签: tensorflow

fully_connected有一个名为weights_regularizer的命名参数,它接受tf.contrib.layers提供的正则化程序,但不清楚培训师是否能够找到这些正则化损失张量,或者我们是否必须手动将它们添加到总损失中。

有人可以使用fully_connected提供正规化的示例吗?

1 个答案:

答案 0 :(得分:4)

正则化器输出被添加到名为REGULARIZATION_LOSSES的集合中(该层使用正则化器调用model_variable)。

您必须自己将REGULARIZATION_LOSSES的内容添加到损失中。要获取REGULARIZATION_LOSSES集合中的所有张量,请使用tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES)