训练自己的数据集。 Mask_RCNN资源耗尽:分配时OOM

时间:2018-09-21 11:29:19

标签: python tensorflow error-handling object-detection allocation

我正在尝试使用Mask_RCNN训练自己的数据集,但出现以下框架错误:Command prompt error 我已经按照Mask R-CNN上的github tutorial进行了对象检测。

我可以做些什么来减少训练数据集所需的内存吗?或者我该如何解决这个问题?

2 个答案:

答案 0 :(得分:0)

需要有关您的PC的更多信息。我认为可能是因为批处理大小或图像大小太大,它需要更多的视频内存或内存。当我尝试在Tensorflow中使用mask-rcnn-resnet101训练自己的数据集时-models / object_detection,GTX1080TI 11GB可以正常工作。(batch_size = 1,image_size = 1000 * 600)。

答案 1 :(得分:0)

https://stackoverflow.com/a/64145818/11262633中,我描述了可以为降低TensorFlow v2中的内存利用率而进行的3种更改。