如何并行运行多个预训练的 pytorch 模型？

Question

我有四个预训练模型，我想从中并行获得预测。模型在 GPU 上运行。是否有任何资源可以在 GPU 上并行运行模型？

对不起，我没有代码可以显示，我只是不知道如何开始。