从pytorch中的预训练resnet50中提取特征

时间:2020-05-31 14:30:35

标签: python pytorch resnet

伙计们,我想提取预训练的resnet50的完全连接层的in_features。

我先创建一个给我特征向量的方法:

def get_vector(image):

#layer = model._modules.get('fc')

layer = model.fc
my_embedding = torch.zeros(2048) #2048 is the in_features of FC , output of avgpool

def copy_data(m, i, o):

    my_embedding.copy_(o.data)


h = layer.register_forward_hook(copy_data)
tmp = model(image)

h.remove()

# return the vector
return my_embedding

在这里调用此方法后:

column = ["FlickrID", "Features"]

path = "./train_dataset/train_imgs/"

pathCSV = "./train_dataset/features/img_info_TRAIN.csv"



f_id=[]
features_extr=[]

df = pd.DataFrame(columns=column)


tr=transforms.Compose([transforms.Resize(256),
                       transforms.CenterCrop(224),
                       transforms.ToTensor(),
                       transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])])



test = Dataset(path, pathCSV, transform=tr)

test_loader = DataLoader(test, batch_size=1, num_workers=2, shuffle = False)



#Leggiamo le immagini
for batch in test_loader:
    nome = batch['FlickrID']
    f_id.append(nome)
    image = batch['image']



    #print(image)
    with torch.no_grad():
        pred = get_vector(image)

    features_extr.append(pred)

df["FlickrID"] = f_id
df["Features"] = features_extr  


df.to_hdf("Places.h5", key='df', mode='w')

我有这样的错误: 形状为[2048]的输出与广播形状[1,2048,1,2048]不匹配

如何获取此resnet50的“完全连接”的in_feature? 数据集是一个自定义的数据集类。

对不起,我的英语不好

1 个答案:

答案 0 :(得分:2)

该模型采用批处理输入,这意味着到完全连接的层的输入大小为 [batch_size,2048] 。因为您使用的批次大小为1,所以它变为 [1,2048] 。因此,这不适合张量torch.zeros(2048),因此应该改为torch.zeros(1, 2048)

您还尝试使用o层的输出(model.fc)而不是输入(i)。

除此之外,使用钩子对此过于复杂,获取功能的一种更简单的方法是通过将model.fc替换为nn.Identity来修改模型,该模型仅将输入作为输出返回,并且由于功能是其输入,因此整个模型的输出将是功能。

model.fc = nn.Identity()

features = model(image)