我一直在我的电脑上为bird image preprocessing编译这个程序,内存为8GB RAM,即intel core i7-4th gen。处理器,但每次运行一段时间后都会卡住显示此错误:
File "bird.py", line 13, in <module>
X,Y,X_test,Y_test = pickle.load(open("full_dataset.pkl", "rb"))
MemoryError
作为tensorflow的新手,我不确定是否正在使用CUDA(我已成功安装)或者只是CPU仍在执行计算。
答案 0 :(得分:2)
在发出任何GPU计算(或实际上任何TensorFlow计算)之前,您会看到错误。 MemoryError
意味着取消对数据集的修改会导致内存不足,或者数据中存在一些损坏。尝试加载较小的数据集以查看问题是否仍然存在。
关于你原来的问题,如果你已经安装了TensorFlow的GPU版本,以及兼容版本的CUDA(即CUDA 8.0)和cuDNN,TensorFlow会将大部分计算量卸载到GPU上,包括矩阵乘法和卷积这将占培训期间花费的大部分时间。