我一直在尝试使用简单的DNN(tensorflow 1.4)构建一维正弦形式。
def net(input, h_dim, out_dim, depth, activationFn):
h = activationFn(linear(input, h_dim, 't0'))
for d in range(depth):
h = activationFn(linear(h, h_dim, "t{:d}".format(d+1)))
h = linear(h, out_dim, 'tOut')
return h
出于某种原因,输出似乎没有赶上“窦”。波浪,而是饱和和单调。 (无论净深度/宽度/输出层类型如何)。 '线性'是一个线性层
tf.matmul(input,w) + b
activationFn是tf.LeakyReLU。
red line is sinusoid wave, blue is net output 任何想法为什么? 谢谢你。