Question

我正在使用多种技术（ NumPy ， Weave 和 Cython ）来执行Python性能基准测试。代码基本上以数学方式执行的是C = AB，其中A，B和C是N x N矩阵（注意：这是矩阵乘积而不是逐元素乘法）。

我编写了5个不同的代码实现：

Pure python（在2D Python列表上循环）
NumPy（2D NumPy阵列的点积）
编织内联（二维数组上的C ++循环）
Cython（环绕2D Python列表+静态类型）
Cython-Numpy（循环2D NumPy数组+静态输入）

我的期望是实现2到5将比实现1快得多。但是我的结果表明不是这样。这些是我相对于纯Python实现的标准化加速结果：

python_list：1.00
numpy_array：330.09
weave_inline：30.72
cython_list：2.80
cython_array：0.14

我对NumPy的表现非常满意，但是我对Weave的表现并不那么热衷，而Cython的表现让我哭了。我的整个代码分为两个文件。一切都是自动化的，您只需运行第一个文件即可查看所有结果。有人可以帮助我指出我能做些什么来获得更好的结果吗？

matmul.py：

import time

import numpy as np
from scipy import weave
from scipy.weave import converters

import pyximport
pyximport.install()
import cython_matmul as cml


def python_list_matmul(A, B):
    C = np.zeros(A.shape, dtype=float).tolist()
    A = A.tolist()
    B = B.tolist()
    for k in xrange(len(A)):
        for i in xrange(len(A)):
            for j in xrange(len(A)):
                C[i][k] += A[i][j] * B[j][k]
    return C


def numpy_array_matmul(A, B):
    return np.dot(A, B)


def weave_inline_matmul(A, B):
    code = """
       int i, j, k;
       for (k = 0; k < N; ++k)
       {
           for (i = 0; i < N; ++i)
           {
               for (j = 0; j < N; ++j)
               {
                   C(i, k) += A(i, j) * B(j, k);
               }
           }
       }
       """

    C = np.zeros(A.shape, dtype=float)
    weave.inline(code, ['A', 'B', 'C', 'N'], type_converters=converters.blitz, compiler='gcc')
    return C


N = 100
A = np.random.rand(N, N)
B = np.random.rand(N, N)

function = []
function.append([python_list_matmul, 'python_list'])
function.append([numpy_array_matmul, 'numpy_array'])
function.append([weave_inline_matmul, 'weave_inline'])
function.append([cml.cython_list_matmul, 'cython_list'])
function.append([cml.cython_array_matmul, 'cython_array'])

t = []
for i in xrange(len(function)):
    t1 = time.time()
    C = function[i][0](A, B)
    t2 = time.time()
    t.append(t2 - t1)
    print function[i][1] + ' \t: ' + '{:10.6f}'.format(t[0] / t[-1])

cython_matmul.pyx：

import numpy as np
cimport numpy as np

import cython
cimport cython

DTYPE = np.float
ctypedef np.float_t DTYPE_t


@cython.boundscheck(False)
@cython.wraparound(False)
@cython.nonecheck(False)
cpdef cython_list_matmul(A, B):

    cdef int i, j, k
    cdef int N = len(A)

    A = A.tolist()
    B = B.tolist()
    C = np.zeros([N, N]).tolist()

    for k in xrange(N):
        for i in xrange(N):
            for j in xrange(N):
                C[i][k] += A[i][j] * B[j][k]
    return C


@cython.boundscheck(False)
@cython.wraparound(False)
@cython.nonecheck(False)
cpdef cython_array_matmul(np.ndarray[DTYPE_t, ndim=2] A, np.ndarray[DTYPE_t, ndim=2] B):

    cdef int i, j, k, N = A.shape[0]
    cdef np.ndarray[DTYPE_t, ndim=2] C = np.zeros([N, N], dtype=DTYPE)

    for k in xrange(N):
        for i in xrange(N):
            for j in xrange(N):
                C[i][k] += A[i][j] * B[j][k]
    return C

Answer 1

Python列表和高性能数学不兼容，忘记了cython_list_matmul。

cython_array_matmul的唯一问题是索引的使用不正确。它应该是

C[i,k] += A[i,j] * B[j,k]

这就是如何在Python中索引numpy数组，这是Cython优化的语法。通过这种改变，你应该获得不错的表现。

Cython的annotation feature非常有助于发现像这样的优化问题。你可能会注意到A[i][j]会产生大量的Python API调用，而A[i,j]则不会产生任何调用。

此外，如果您手动初始化所有条目，np.empty比np.zeros更合适。

Cython要么比纯Python略快或慢

1 个答案: