我们可以在带有GPU的机器上使用火炬训练模型，并在仅配备CPU的机器上使用此模型吗？

Question

我正在使用带有cuda的火炬后端在带有GPU的机器上训练模型。在构建模型之后，我可以使用此模式仅在具有CPU的机器上进行推理吗？

Answer 1

是的，您可以在保存模型之前记得运行model:double()将模型权重从Cuda张量转换为双张量

require 'cutorch';
require 'cunn';
require 'nn';
model = nn.Sequential()
model:add(nn.Linear(10, 20))


print(model:parameters())
model:cuda();
print(model:parameters())
model:double();
print(model:parameters())