Question

|我在torch7中有一个神经网络，想检查神经网络的动量是如何发展的，这是因为我想修改/减少它因为我想用值进行一些额外的处理并需要速度术语是为了做到这一点。所以我有类似下面的代码：

for t = 1, params.num_iterations do
  local x, losses = optim.adam(feval, img, optim_state)
        img=postProccess(img,content_imageprep,params)
        print(velocity) -- how?
end

想看看速度在做什么。有人知道怎么做吗？

打印optim_state会给我以下输出

  v : CudaTensor - size: 1327104
  m : CudaTensor - size: 1327104
  learningRate : 10
  denom : CudaTensor - size: 1327104
  t : 4

但我现在确定是否以及如果是这样的术语代表速度，任何人都知道吗？

Answer 1

你不会在state参数中找到动量的值，但是在config参数中（在函数调用中不存在），则动量值将等于其默认值，beta1为0.9，beta2为0.999。

查看源代码https://github.com/torch/optim/blob/master/adam.lua#L24

如何在神经网络中获得动量项的优化

1 个答案: