如何在GPU中并行训练具有不同参数的相同的torch.nn.Modules

时间:2017-11-14 13:07:23

标签: parallel-processing pytorch

我有两个像{n}的模块obj1obj2的实例

class Embedding(nn.Module):

    def __init__(self, dropout=0, emb_dim):
        self.lin = nn.Linear(1, emb_dim)
        init.xavier_uniform(self.lin1.weight, gain=np.sqrt(2.0))

    def forward(self, values)
        return F.relu(self.lin1(values))

我有两个数据张量t1t2 我想做

obj1.forward(t1)
obj2.forward(t2)

在GPU中并行,直观地说这是必须的,因为我正在执行相同的操作,但是使用不同的数据。 有什么方法可以使用pytorch所以我可以这样做吗?

0 个答案:

没有答案