如何塑造RNNcells的权重矩阵?

时间:2016-06-09 00:43:20

标签: tensorflow networking recurrent-neural-network

目前,我只能构建权重矩阵hidden->output predictionbias->output

模型中的其他矩阵input->hiddenhidden->hidden是在TensorFlow内部构建的,我目前不知道在构建单元格时如何定义这些矩阵。

例如,我希望我的input->hidden权重矩阵是对角矩阵,非对角线设置为零。

有没有什么方法可以按照我想要的方式约束它们而不将约束放在成本函数中或在每次迭代时更新权重?

我想要实施的一些约束是艰难的,因此它可能会显着减慢学习速度。在每次迭代时改变权重以满足我的约束(例如,非对角线到零)似乎也在计算上效率低下。我应该寻找的任何变通方法或传入功能?

0 个答案:

没有答案