Question

我已经通过设置download = True通过此pytorch api下载了ImageNet数据集。但是我无法遍历数据加载器。

错误显示“'DataLoader'对象不支持索引”

trainset = torch.utils.data.DataLoader(
    datasets.ImageNet('/media/farshid/DataStore/temp/Imagenet/', split='train',
                      download=False))
trainloader = torch.utils.data.DataLoader(trainset, batch_size=1, shuffle=False, num_workers=1)

我尝试了一种简单的方法，只是尝试运行以下命令，

trainloader[0]

在根目录中，模式为

root/  
    train/  
          n01440764/
          n01443537/ 
                   n01443537_2.jpg

官方网站上的文档未说其他任何内容。 https://pytorch.org/docs/stable/torchvision/datasets.html#imagenet

我在做什么错了？

Answer 1

嗯，答案很简单（除了另一个答案中提到的错误）。

DataLoader没有__getitem__方法（自己查看in the source code）。

它用于对数据（或数据批次）进行迭代，而不是随机访问。如果要访问特定元素，则应使用torch.utils.data.Dataset，具体情况如下：

trainset = torchvision.datasets.ImageNet('/media/farshid/DataStore/temp/Imagenet/', split='train', )
trainset[0]

获取批次

如果您想获得一个批次，可以对其进行迭代并在之后中断：

for batch in dataloader:
    print(batch) # or anything else you want to do
    break

DataLoader以默认或指定方式创建随机索引（请参阅samplers），因此没有__getitem__，因为它对这个对象没有意义。

您还可以从DataLoader继承并创建自己的__getitem__函数来完成您想要的操作（尽管更复杂）。

完整示例

# torch.utils.data.Dataset object
trainset = datasets.ImageNet('/media/farshid/DataStore/temp/Imagenet/', split='train', download=True)
# torch.utils.data.DataLoader object
trainloader =torch.utils.data.DataLoader(trainset, batch_size=1, shuffle=False)

for batch in trainloader:
    print(batch)
    break

上面应该打印第一批内容。

Answer 2

torch.utils.data.DataLoader()的输入数据集应该是torch.utils.data.Dataset类型，而不是torch.utils.data.DataLoader，这就是您在上面的代码中所做的。

因此，您的上述代码应为：

trainset = torchvision.datasets.ImageNet('/media/farshid/DataStore/temp/Imagenet/', 
                                          split='train', 
                                          download=False)

trainloader = torch.utils.data.DataLoader(trainset, 
                                          batch_size=1, 
                                          shuffle=False, 
                                          num_workers=1)

有关更多详细信息，请查阅官方火炬文档here。

Answer 3

解决方案

input_transform = standard_transforms.Compose([
    transforms.Resize((255,255)), # to Make sure all the 
    transforms.CenterCrop(224),   # imgs are at the same size 
    transforms.ToTensor()
])  


# torch.utils.data.Dataset object
trainset = datasets.ImageNet('/media/farshid/DataStore/temp/Imagenet/',
                             split='train', download=False, transform = input_transform)
# torch.utils.data.DataLoader object
trainloader =torch.utils.data.DataLoader(trainset, batch_size=2, shuffle=False)


for batch_idx, data in enumerate(trainloader, 0):
    x, y = data 
    break

“ DataLoader”对象不支持索引

3 个答案:

获取批次

完整示例