我刚学习AutoEncoder,我正在阅读这个网站:http://deeplearning.net/tutorial/dA.html 而且我没有得到b'的含义。
所以我尝试使用绑定权重构建自动编码器。
例如,
编码:hid = s(x * w + b)
x:(1000,2000)
w:(2000,500)
b:(500,1)
- >藏:(1000,500)
当我解码编码数据时,
解码:y = s(隐藏* w'+ b')
w':( 500,2000)
所以隐藏* w'将是(1000,2000) 我必须添加b',它的形状应该是(2000,1),但我只有b形状为(500,1)。
我在这里做错了什么?
我找到了一些代码,他们只是随机地制作了具有输入数量形状的bais,即(2000,1)并对其进行了优化。
答案 0 :(得分:0)
我刚刚找到答案,为了方便起见,我发布了答案。 解码AE时,您可能需要制作形状为(n_input)的偏置矢量。 所以在我的例子中,我必须制作一个新的偏向量b * :( 2000,1)并使用这个b *重建输入并优化权重和b *一起