我遇到了Tensorflow的问题。我有一个很大的嵌入矩阵。我想相对于它计算损失函数的梯度，然后在优化之前将一个密集的张量相乘。我首先使用tf.gradients来计算嵌入矩阵的梯度。它将自动返回tf.IndexedSlices以保存内存。但是，当我想将梯度与密集的张量相乘时，问题就来了。似乎唯一的方法是将其转换为密集的张量，这将导致“内存不足”。为了解决该问题，我还尝试了tf.sparse_tensor_dense_matmul，但是它说它将返回一个密集的张量，该张量仍然会占用大量内存。
有人提出一些建议或解决方案吗？