如何在Julia中加速Log(x + 1)到稀疏数组的应用

时间:2015-02-24 03:45:46

标签: optimization sparse-matrix julia

Julia中的稀疏矩阵仅存储非零元素。

某些功能,例如log(x+1)(在所有基础中), 将零映射到零,因此不需要应用于那些零元素。 (我想我们称之为Monoid homomorphism。)

如何使用此事实加快操作?

示例代码:

X = sprand(10^4,10^4, 10.0^-5, rand)
function naiveLog2p1(N::SparseMatrixCSC{Float64,Int64})
    log2(1+N) |> sparse
end

运行:

@time naiveLog2p1(X)

输出是:

elapsed time: 2.580125482 seconds (2289 MB allocated, 6.86% gc time in 3 pauses with 0 full sweep)

第二次(以便预期该函数已被编译):

elapsed time: 2.499118888 seconds (2288 MB allocated, 8.17% gc time in 3 pauses with 0 full sweep)

变化不大,大概是因为它编译起来非常简单。

3 个答案:

答案 0 :(得分:2)

根据关于“稀疏矩阵运算”的Julia手册的建议,我将使用findnz()将稀疏矩阵转换为密集矩阵,对值进行日志运算并使用{{1重构稀疏矩阵}}

sparse()

答案 1 :(得分:1)

我的解决方案是实际操作数据结构本身的内部:

mysparselog(N::SparseMatrixCSC) =
    SparseMatrixCSC(N.m, N.n, copy(N.colptr), copy(N.rowval), log2(1+N.nzval))

注意,如果你想对稀疏矩阵进行操作,这在实践中经常是我想象的,这将是一个零内存操作。基准测试显示这与@Oxinabox答案类似,因为它在内存操作方面大致相同(尽管答案实际上并没有返回新矩阵,如mean输出所示):

with warmup times removed:

naiveLog2p1
elapsed time: 1.902405905 seconds (2424151464 bytes allocated, 10.35% gc time)
mean(M) => 0.005568094618997372

mysparselog
elapsed time: 0.022551705 seconds (24071168 bytes allocated)
elapsed time: 0.025841895 seconds (24071168 bytes allocated)
mean(M) => 0.005568094618997372

improvedLog2p1
elapsed time: 0.018682775 seconds (32068160 bytes allocated)
elapsed time: 0.027129497 seconds (32068160 bytes allocated)
mean(M) => 0.004995127985160583

答案 2 :(得分:0)

您要找的是sparse nonzeros function

  

<强> nonzeros(A)

     

在稀疏矩阵A中返回结构非零值的向量。这包括显式存储在稀疏中的零   矩阵。返回的向量直接指向内部非零   存储A,对返回的向量的任何修改都会发生变异   A也是如此。

您可以使用以下方法:

function improvedLog2p1(N::SparseMatrixCSC{Float64,Int64})
    M = copy(N)
    ms = nonzeros(M) #Creates a view, 
    ms = log2(1+ms) #changes to ms, change M
    M
end


@time improvedLog2p1(X)

第一次运行输出是:

 elapsed time: 0.002447847 seconds (157 kB allocated)

第二次运行输出是:

 0.000102335 seconds (109 kB allocated)

速度和内存使用量提高了4个数量级。