Tensorflow如何支持在自定义操作中使用优化器?

时间:2017-07-25 21:03:41

标签: tensorflow

我做了一个新的操作,我想和AdamOptimizer一起使用它。我已按照说明here为其创建了渐变,并将其添加到我的优化程序的var_list中,但Tensorflow说我的变量没有处理器。

优化器中是否支持Tensorflow自定义操作? 优化器类是否允许我创建新处理器,还是必须重写部分compute_gradients?

此外,如TF文档所述,自动分化意味着什么:

  

要为新操作进行自动微分工作,必须注册一个渐变函数,该函数根据操作数计算渐变。给出关于操作的渐变的输入'输出。

谢谢!

1 个答案:

答案 0 :(得分:0)

所以我发现Tensorflow优化器不支持我正在做的事情。

我试图创建一个像Tensorflow变量一样的操作(即由Optimizer::minimize()中的函数更新),但是,我相信TF对处理器和Eigen::Tensors做了一些奇怪的事情。我不完全理解为了用minimize()更新渐变,当然这对Op类不起作用。