输出层似乎已经饱和了#39;使用tensorflow

时间:2017-11-08 17:59:10

标签: tensorflow deep-learning

我一直在尝试使用简单的DNN(tensorflow 1.4)构建一维正弦形式。

def net(input, h_dim, out_dim, depth, activationFn):
        h = activationFn(linear(input, h_dim, 't0'))
        for d in range(depth):
           h = activationFn(linear(h, h_dim, "t{:d}".format(d+1)))

        h = linear(h, out_dim, 'tOut')

        return h

出于某种原因,输出似乎没有赶上“窦”。波浪,而是饱和和单调。 (无论净深度/宽度/输出层类型如何)。 '线性'是一个线性层

tf.matmul(input,w) + b

activationFn是tf.LeakyReLU。

red line is sinusoid wave, blue is net output 任何想法为什么? 谢谢你。

0 个答案:

没有答案