PySide / Cython和GIL多线程使用

时间:2013-01-28 10:53:05

标签: python multithreading qt pyside cython

我一直在用 PySide / Cython 多线程应用程序苦苦挣扎几天。
将问题分成几部分,我进入了一个用valgrind / helgrind运行的测试(参见下面的一个错误条目)。
C函数(下面的CHLone load)使用Python及其GIL(没有指向Cython), Shiboken 也可以访问GIL 输出表明与GIL访问存在冲突(除非我错了),但是我的 理解是GIL是为了避免这种冲突。

Shiboken 执行一些与其他线程上的PyList_New发生冲突的dealloc ......

我迷路了 我认为 GIL负责阻止 PyList_New而另一个线程正在修改一些Python共享数据。或 Shiboken 忘记锁定?

listobject.c第161行是对_PyObject_GC_TRACK()的调用,我(假设)要求GC跟踪新对象。
classobject.c行2360是对_PyObject_GC_UNTRACK()的调用,强烈要求GC停止跟踪对象...
我看到 helgrind diag是可能的数据竞争,但实际上这会导致核心转储,我不喜欢可能的在使用线程时使用Python GC。我想先解决这个问题。

==26535== ----------------------------------------------------------------
==26535== 
==26535== Possible data race during read of size 8 at 0x4FE8488 by thread #2
==26535== Locks held: none
==26535==    at 0x4C92A80: PyList_New (listobject.c:161)
==26535==    by 0x742C43F: s2p_parseAndReadHDF (SIDStoPython.c:949)
==26535==    by 0x742C5C4: s2p_parseAndReadHDF (SIDStoPython.c:968)
==26535==    by 0x742E638: s2p_loadAsHDF (SIDStoPython.c:1485)
==26535==    by 0x741C3CC: __pyx_f_6CHLone_load (pyCHLone.c:2182)
==26535==    by 0x741D2AD: __pyx_pf_6CHLone_12load (pyCHLone.c:2422)
==26535==    by 0x741D1C3: __pyx_pw_6CHLone_13load (pyCHLone.c:2392)
==26535==    by 0x4D0A48F: PyEval_EvalFrameEx (ceval.c:4013)
==26535==    by 0x4D0C3DC: PyEval_EvalCodeEx (ceval.c:3253)
==26535==    by 0x4C8B641: function_call (funcobject.c:526)
==26535==    by 0x4C5F652: PyObject_Call (abstract.c:2529)
==26535==    by 0x4C7279E: instancemethod_call (classobject.c:2578)
==26535== 
==26535== This conflicts with a previous write of size 8 by thread #1
==26535== Locks held: none
==26535==    at 0x4C6C53F: instancemethod_dealloc (classobject.c:2360)
==26535==    by 0x5AB248A: Shiboken::AutoDecRef::~AutoDecRef() (in /tmp/tools-2/local/x86z/lib/python2.7/site-packages/PySide/QtCore.so)
==26535==    by 0x5F9736F: PySide::GlobalReceiverV2::qt_metacall(QMetaObject::Call, int, void**) (in /tmp/tools-2/local/x86z/lib/libpyside-python2.7.so.1.0.9)
==26535==    by 0x659BCA5: QObject::event(QEvent*) (in /tmp/tools-2/local/x86z/lib/libQtCore.so.4.8.0)
==26535==    by 0x5B038C5: QCoreApplicationWrapper::notify(QObject*, QEvent*) (in /tmp/tools-2/local/x86z/lib/python2.7/site-packages/PySide/QtCore.so)
==26535==    by 0x6586F8B: QCoreApplication::notifyInternal(QObject*, QEvent*) (in /tmp/tools-2/local/x86z/lib/libQtCore.so.4.8.0)
==26535==    by 0x658A5A7: QCoreApplicationPrivate::sendPostedEvents(QObject*, int, QThreadData*) (in /tmp/tools-2/local/x86z/lib/libQtCore.so.4.8.0)
==26535==    by 0x65B60F2: ??? (in /tmp/tools-2/local/x86z/lib/libQtCore.so.4.8.0)
==26535==

问题:
 1.我为GIL假设的行为是否正确?  2.如果
...这是否意味着我必须自己管理每个线程中的GIL锁? ...然后我必须为Python创建自己的互斥?!??!?
 3.如果
...我的Cython或C lib中是否有关于GIL使用的问题?
......这可能是 QThread / QMutex 的副作用吗?

1 个答案:

答案 0 :(得分:2)

在CPython中,全局解释器锁或GIL是一个互斥锁,它可以防止多个本机线程一次执行Python字节码。

所以你可以从GIL中得到的是它保持两个python代码流一次执行。你不应该期待任何类型的锁定行为。编写依赖于GIL保护您的代码通常是不好的做法。 GIL是一个许多想要删除的疣,它在某些形式的python中不存在,如IronPython和jython。它确实存在的地方减少了并发性,增加了开销,使得python代码比其他方式更难以推理。

从上面我不清楚是否涉及GIL故障。第二条痕迹似乎在c ++领域很深,而不是我理解GIL限制的领域。