与pytorch中的'nn.Sequential'相比,如何并行运行子运算符

时间:2019-12-11 11:24:51

标签: pytorch

我有一个自定义运算符。对于每一层,我需要并行运行多个运算符,就像每一层中的多个卷积内核一样。众所周知,nn.Sequential是按顺序运行多个运算符的好方法。但是我找不到类似的类以并行方式运行运算符,可能是nn.Parallel

我有两种可选的方法可以达到目标,而无需考虑运行时间或内存。第一种方法是直接使用for循环,第二种方法是准备输入的多个副本。两种方法都很幼稚,而且运行时间或内存效率低下。

有什么优雅的方法可以做到这一点吗?

0 个答案:

没有答案