Question

我目前正在尝试在Flux中为Julia执行批量更新。

在计算过程中，我通过反复执行来获得一批标量

δ = Gt - model(St)[1]
push!(deltas,δ)

模型是神经网络

global model= Chain(
    Dense(statesize,10, leakyrelu),
    Dense(10,10,leakyrelu),
    Dense(10,1))

我最终得到数组增量，我想在第二个神经网络上执行批量梯度更新（批量大小= 19），其中每个梯度都由适当的增量加权。我写的更新函数是

function vupdate2!(S_batch,model,α,deltas)

   function v_loss_total(x)
       return sum(reshape(deltas,(1,19)) .* model(x))
   end

   local ps = Flux.params(model)
   local gs = Flux.Tracker.gradient(() -> v_loss_total(S_batch), ps)
   for p in ps
       Flux.Tracker.update!( p,  α.* gs[p])
   end
end

问题是，正在计算渐变的行会引发错误：MethodError: no method matching Float32(::Tracker.TrackedReal{Float64})

我认为问题是，跟踪了我的增量数组。查看v_loss_total函数的输出作为随机输入，我得到：

julia> v_loss_total(S_batch)
-6752.433690476287 (tracked) (tracked)

有趣的是，这个数字被跟踪了两次（？），我想这是因为将两个跟踪的数字相乘（即增量和模型（S_batch）的条目）。有没有一种方法可以先取消跟踪增量数组？我将不胜感激。

Answer 1

事实证明，有一个功能

Flux.Tracker.data()

这正是我需要的。它需要一个跟踪的数字并返回Float本身。另请参阅：https://github.com/FluxML/Flux.jl/issues/640

Answer 2

在julia 1.2中对我有用的是使用.data

将float作为字段进行访问

GreenLogic建议的上述功能仅返回另一个Tracker。

停止跟踪Flux中的数组（Julia）

2 个答案: