Tensorflow中的Sigmoid操作实现

时间:2018-01-19 14:41:17

标签: python tensorflow neural-network sigmoid

出于学习目的,我有一项任务是在tensorflow中进行线性和sigmoid操作。 我设法做了线性操作:

def linear_op_forward(X, W):
''' linear operation'''
return np.dot(X, W.T)

def linear_op_backward(op, grads):
    ''' Linear gradient realization '''
    X = op.inputs[0]  
    W = op.inputs[1]  
    dX = tf.multiply(grads, W)
    dW = tf.reduce_sum(tf.multiply(X, grads),
                       axis = 0,
                       keep_dims = True)
    return dX, dW

但是我坚持使用sigmoid操作:

这是对的吗?

def sigmoid_op_forward(X):
    return 1 / (1 + np.exp(-X))

我很难理解sigmoid渐变

def sigmoid_op_backward(op, grads):
    ???

有人可以帮忙吗?

1 个答案:

答案 0 :(得分:2)

试试这个:

BsonElement