在Tensorflow中实现反馈对齐

时间:2017-02-04 16:16:46

标签: python tensorflow neural-network gradient-descent

我想在Tensorflow中实现Direct Feedback Alignemnt。

参考文件:https://arxiv.org/pdf/1609.01596v5.pdf,Nøkland(2016)

我实现了一个简单的网络,在纯Python中执行DFA,明确地使用了backprop,我只是将BP的后向传递切换为DFA。

Backward passes

其中B1和B2是两个具有适当尺寸的随机矩阵。

Tensorflow培训显然默认为backprop。我应该在Tensorflow代码中修改哪些内容以及为了获得此培训行为?

0 个答案:

没有答案