如果要绑定权重,如何处理自动编码器/解码器中的偏差

时间:2017-05-25 23:39:24

标签: neural-network autoencoder

我理解如何在自动编码器/解码器中绑定权重,即在解码器中使用编码器权重的转置。但是,目前还不清楚如何处理这些偏见。

例如,

编码器:
4特点 - > 3隐藏 - > 2隐藏

解码器:
2隐藏 - > 3隐藏 - > 4功能'

由于图层的偏差是下一层中的节点数,因此它们不对称。

在上面的例子中,偏差是3,2,3,4

然而,由于编码器和解码器是对称的,但反过来有2个相同大小的偏差,即3.

问题1:
我是否将这些类似大小的偏见绑在一起?

问题2:
如果问题1的答案是否定的,或者不能与不对称的答案相关联,那么那些我不会联系的那些是否只是自变量?

0 个答案:

没有答案