Cython MemoryError

时间:2012-03-01 07:27:20

标签: python memory numpy cython

在我为结果分配numpy数组的cdef中,我收到以下错误。

---> 56     cdef np.ndarray[DTYPE_t, ndim=2] alignpmf = np.zeros([bin_len, out_len*bin_len],dtype=float)
MemoryError: 

相关代码是:

from __future__ import division
import numpy as np
cimport numpy as np
cimport cython
DTYPE = np.int
DTYPE_f = np.float
ctypedef np.float_t DTYPE_t
ctypedef np.int_t DTYPE_i

...

@cython.boundscheck(False)
@cython.wraparound(False)
def full_pmfs(np.ndarray[DTYPE_i, ndim=2] align, np.ndarray[DTYPE_i, ndim=1] bins):

    assert align.dtype == DTYPE
    assert bins.dtype == DTYPE
    cdef int loop_ind_i, loop_ind_j, inner_count, inner_count_start, inner_count_stop
    cdef int bin_len = bins.shape[0]
    cdef int i_start_ind, i_stop_ind
    cdef int seqs = align.shape[0]
    cdef int residues = align.shape[1]
    cdef int size = residues * bin_len
    cdef int out_len = residues**2 - residues // 2)
    cdef np.ndarray[DTYPE_t, ndim=2] alignpmf = np.zeros([bin_len,
    out_len*bin_len],dtype=float)
    ...

有关导致错误的原因的任何线索?如果我在python中编写相同的代码,我不会收到内存错误。当我运行纯粹的numpy或cython代码时,它几乎不消耗任何我的ram(此盒子上12gb)。作为参考,bin_len可能在20左右,out_len可能是80,000。

pyx是使用python setup.py build_ext --inplace:

编译的
from distutils.core import setup
from distutils.extension import Extension
from Cython.Distutils import build_ext
import numpy

ext_modules = [Extension("mi", ["mi.pyx"])]

setup(
    name = 'MI calcs',
    cmdclass = {'build_ext': build_ext},
    ext_modules = ext_modules,
    include_dirs = [numpy.get_include(),],
    )

1 个答案:

答案 0 :(得分:1)

我无法重建错误 - 删除代码中的尾随“)”(当你计算残差// 2时)并按以下方式调用它:

from numpy import *
import mi
if __name__ == '__main__':
    a = ones((20,300),mi.DTYPE)
    b = ones(20,mi.DTYPE)
    mi.full_pmfs(a,b) # gives you bin_len = 20 and out_len = 89850 

这对我来说很好。

你是如何准确地调用这个函数的?另外,根据我的经验,有时cython错误消息可能有点错位,也许是之后的声明?