我有这个功能来获得它的差异化值。
def dp1_f1(x):
return 64*x*(1-x)*(math.pow((1-2*x),2) )*math.pow((1-8*x+8*x*x), 2)
我希望获得dy/dx
价值。
我可以通过数字方法得到这个值,如下所示:
def dp_numeric_diff(x):
delta_x = 0.0001
return (dp1_f1(x+delta_x)-dp1_f1(x))/delta_x
我使用TensorFlow eager执行API来计算这个值:
def dp_ad_tfe(x):
tf.enable_eager_execution()
tfe = tf.contrib.eager
grad_lx = tfe.gradients_function(dp1_f1)
x = 3.0
y = dp1_f1(x)
rst = grad_lx(x)
return y, rst[0]
我用以下代码调用此函数:
numeric_diff = dp_numeric_diff(x)
print('Numeric method:{0}'.format(numeric_diff))
v, d = dp_ad_tfe(x)
print('TFE:{0}'.format(d))
它将显示如下内容:
Numeric method:-75290405.66440672
TFE:-19208000.0
我确信数字方法是正确的。我的TensorFlow渴望执行代码有什么问题?顺便说一下,相同的TensorFlow急切执行代码可以获得像x ^ 2这样的简单函数的正确答案。
答案 0 :(得分:1)
我发现TensorFlow急切执行API无法处理math.pow等函数。我必须提供一个函数来告诉TensorFlow渴望执行API如何获得函数的派生。要解决这个问题,我必须将math.pow更改为我自己的函数,如下所示:
@tf.custom_gradient
def f3(x, n):
v = tf.pow(x, n)
def grad(dy):
return (dy* (n*tf.pow(x, n-1)) ).numpy()
return v.numpy(), grad
并且必须修改原始功能,如下所示:
def dp1_f1(x):
return 64*x*(1-x)*f3(1-2*x,2)*f3(1-8*x+8*x*x, 2)
现在,TensorFlow急切执行API将像数字方法一样给出正确答案。
答案 1 :(得分:0)
TensorFlow的自动区分API仅能通过TensorFlow操作的组成来区分,而不能通过math.pow()
之类的函数或其他库来区分。如果将math.pow()
替换为tf.pow()
,它应该可以正常工作。
类似的东西:
import tensorflow as tf
tf.enable_eager_execution()
def dp1_f1(x):
return 64*x*(1-x)*(tf.pow((1-2*x),2) )*tf.pow((1-8*x+8*x*x), 2)
def dp_numeric_diff(x):
delta_x = 0.0001
return (dp1_f1(x+delta_x)-dp1_f1(x))/delta_x
grad = tf.contrib.eager.gradients_function(dp1_f1)
print(dp_numeric_diff(3.0).numpy()) # Prints -75300000.0
print(grad(3.0)[0].numpy()) # Prints -75279680.0
希望有帮助。
(似乎在GitHub上也被问到了)