我尝试使用BASIC_GPU
比例等级运行我的工作,但是出现了内存不足错误。因此,我尝试使用自定义配置运行它,但是我找不到仅使用1个带有额外内存的Nvidia K80的方法。所有示例和预定义选项都使用许多GPU,CPU和工作程序,而我的代码并未为此进行优化。我只想要1个GPU和额外的内存。我该怎么办?
答案 0 :(得分:0)
GPU内存当前不可扩展(直到可以访问PASCAL之类的东西)
减小批量大小可以解决一些内存不足的问题
将GPU添加到工作程序也无济于事,因为模型是分别部署在单个工作程序上的(没有内存池b / n工作程序)