我做了一个新的操作,我想和AdamOptimizer一起使用它。我已按照说明here为其创建了渐变,并将其添加到我的优化程序的var_list中,但Tensorflow说我的变量没有处理器。
优化器中是否支持Tensorflow自定义操作? 优化器类是否允许我创建新处理器,还是必须重写部分compute_gradients?
此外,如TF文档所述,自动分化意味着什么:
要为新操作进行自动微分工作,必须注册一个渐变函数,该函数根据操作数计算渐变。给出关于操作的渐变的输入'输出。
谢谢!
答案 0 :(得分:0)
所以我发现Tensorflow优化器不支持我正在做的事情。
我试图创建一个像Tensorflow变量一样的操作(即由Optimizer::minimize()
中的函数更新),但是,我相信TF对处理器和Eigen::Tensors
做了一些奇怪的事情。我不完全理解为了用minimize()
更新渐变,当然这对Op类不起作用。