如何在chainer v2.1.0中使用混合链接并行计算的多CPU

Question

在我的研究中。我在神经网络中写了2层，底层第一层是在GPU上运行的RNN，第二层是CPU（算法模型本质更适合CPU），我在CPU中以chainer自定义Link实现它。 / p>

但是，CPU层很慢，我无法等待我的论文提交截止日期。所以我想使用这一层的并行计算。

实现并行此链接的最佳做法和快速方法是什么？

Answer 1

首先，ChainerMN（不是Chainer）不支持直接加速单层计算。

我建议考虑以下选项。

• 将GPU用于“CPU友好”图层
• 使用Cython或其他加速技术
• 在CPU上使用多线程

感谢。