我知道tensorflow提供了一些处理稀疏张量的方法。例如,当存在稀疏矩阵时,tf.sparse_tensor_dense_matmul比tf.matmul更快。
在深度卷积网络中,我在训练过程后获得稀疏卷积内核。我想知道如何保存卷积内核,以便tensorflow知道内核是稀疏的?
我读过一些文章。论文提出稀疏卷积将带来比传统卷积更有效的计算。但是tf.nn.conv2d并不表示它将使用稀疏卷积内核比密集卷积内核更快地计算。如何从稀疏内核中获得优势?
答案 0 :(得分:2)
是的,tf.nn.conv2d不适用于稀疏内核。如果您认为稀疏卷积将为您带来速度的好处并且能够轻松编写高效的cpu / gpu代码,那么您可以编写自己的op,described in their docs