基于旧张量和二维索引的新张量

时间:2021-03-31 13:28:26

标签: python indexing pytorch tensor torch

我之前问过: PyTorch tensors: new tensor based on old tensor and indices

我现在有同样的问题,但需要使用二维索引张量。

我有一个大小为 [batch_size, k] 的张量 col,其值介于 0 和 k-1 之间:

idx = tensor([[0,1,2,0],
        [0,3,2,2],
        ...])

和以下矩阵:

x = tensor([[[0, 9],
 [1, 8],
 [2, 3],
 [4, 9]],
 [[0, 0],
 [1, 2],
 [3, 4],
 [5, 6]]])

我想创建一个新的张量,其中包含索引中指定的行,按顺序排列。所以我想要:

tensor([[[0, 9],
 [1, 8],
 [2, 3],
 [0, 9]],
 [[0, 0],
 [5, 6],
 [3, 4],
 [3, 4]]])

目前我是这样做的:

for i, batch in enumerate(t):
    t[i] = batch[col[i]]

我怎样才能更有效地做到这一点?

2 个答案:

答案 0 :(得分:1)

您可以 gather 索引,稍加操作后使其成为兼容的形状:

>>> new_idx = idx.unsqueeze(-1).expand_as(x)
>>> x.gather(1, new_idx)

tensor([[[0, 9],
         [1, 8],
         [2, 3],
         [0, 9]],

        [[0, 0],
         [5, 6],
         [3, 4],
         [3, 4]]])

答案 1 :(得分:1)

您应该使用 torch gather 来实现这一点。它实际上也适用于您链接的 otehr 问题,但这留给读者作为练习:p

让我们将 idx 称为您的第一个张量,将 source 称为第二个。它们各自的维度是 (B,N)(B, K, p)(在您的示例中为 p=2),并且 idx 的所有值都在 0K-1 之间。

所以要使用 torch gather,我们首先需要将您的操作表示为嵌套的 for 循环。在您的情况下,您真正​​想要实现的是:

for b in range(B):
    for i in range(N):
        for j in range(p):
            # This kind of nested for loops is what torch.gether actually does
            target[b,i,j] = source[b, idx[b,i,j], j]

但这不起作用,因为 idx 是 2D 张量,而不是 3D 张量。好吧,没什么大不了的,让我们把它变成一个 3D 张量。我们希望它具有形状 (B, N, p) 并且沿最后一个维度实际上是恒定的。然后我们可以用对 gather 的调用替换 for 循环:

reshaped_idx = idx.unsqueeze(-1).repeat(1,1,2)
target = source.gather(1, reshaped_idx)
# or : target = torch.gather(source, 1, reshaped_idx)