Python 3中的三向比较字符串

时间:2018-06-10 09:32:11

标签: python string python-3.x

假设您要优化Python中实现的(字节)字符串比较密集算法。由于中央代码路径包含这个语句序列

if s < t:
    # less than ...
elif t < s:
    # greater than ...
else:
    # equal ...

将它优化为像

这样的东西会很棒
r = bytes_compare(s, t)
if r < 0:
    # less than ...
elif r > 0:
    # greater than ...
else:
    # equal ...

其中(假设的)bytes_compare()理想情况下只会调用three-way comparison C函数memcmp(),这通常是非常优化的。这会将字符串比较的数量减少一半。一个非常可行的优化,除非字符串超短。

但是如何使用Python 3实现目标?

PS

Python 3删除了三向比较全局函数cmp()和魔术方法__cmp__()。即使使用Python 2,bytes类也没有__cmp__()成员。

使用ctypes包,它可以直接调用memcmp(),但ctypes的外部函数调用开销非常高。

1 个答案:

答案 0 :(得分:2)

Python 3(包括3.6)根本不包含对字符串的任何三向比较支持。虽然富比较运算符__lt__()__eq__()等的内部实现会调用memcmp()(在bytes的C实现中 - cf. Objects/bytesobject.c)没有可以利用的内部三向比较功能。

因此,通过调用memcmp()来编写提供三向比较功能的C extension是下一个最好的事情:

#include <Python.h>
static PyObject* cmp(PyObject* self, PyObject* args) {
    PyObject *a = 0, *b = 0;
    if (!PyArg_UnpackTuple(args, "cmp", 2, 2, &a, &b))
        return 0;
    if (!PyBytes_Check(a) || !PyBytes_Check(b)) {
        PyErr_SetString(PyExc_TypeError, "only bytes() strings supported");
        return 0;
    }
    Py_ssize_t n = PyBytes_GET_SIZE(a), m = PyBytes_GET_SIZE(b);
    char *s = PyBytes_AsString(a), *t = PyBytes_AsString(b);
    int r = 0;
    if (n == m) {
        r = memcmp(s, t, n);
    } else if (n < m) {
        r = memcmp(s, t, n);
        if (!r)
            r = -1;
    } else {
        r = memcmp(s, t, m);
        if (!r)
            r = 1;
    }
    return PyLong_FromLong(r);
}
static PyMethodDef bytes_util_methods[] = {
    { "cmp", cmp, METH_VARARGS, "Three way compare 2 bytes() objects." },
    {0,0,0,0} };
static struct PyModuleDef bytes_util_def = {
    PyModuleDef_HEAD_INIT, "bytes_util", "Three way comparison for strings.",
    -1, bytes_util_methods };
PyMODINIT_FUNC PyInit_bytes_util(void) {
    Py_Initialize();
    return PyModule_Create(&bytes_util_def);
}

编译:

gcc -Wall -O3 -fPIC -shared bytes_util.c -o bytes_util.so -I/usr/include/python3.6m

测试:

>>> import bytes_util
>>> bytes_util.cmp(b'foo', b'barx')
265725

与通过memcmp包调用ctypes相反,此外部调用与内置字节比较运算符具有相同的开销(因为它们也实现为标准Python版本的C扩展)。