使用多个GPU进行训练

Question

我想使用多个GPU在LibriSpeech数据集上训练RETURRN，但不知道该怎么做。 这可能吗？我看不到任何在.config文件中启用它的选项。

Answer 1

是的，有可能。您会发现一些description in the documentation。它目前使用Horovod，基本上，您必须设置use_horovod = True，但请参阅文档以了解更多详细信息。