如何使用valgrind与python?

时间:2013-11-21 05:12:59

标签: python memory-leaks valgrind

我正在尝试memcheck我正在编写的C python扩展,但是我在设置valgrind以使用python方面遇到了麻烦。我真的很感激一些建议。仅供上下文使用,这是Ubuntu 13.10,python 2.7.5+和valgrind 3.8.1。

根据Readme.valgrind的建议,我做了以下事情。

1)用

下载python源代码
sudo apt-get build-dep python2.7
apt-get source python2.7

2)应用代码补丁,即"在Objects / obmalloc.c"中取消注释Py_USING_MEMORY_DEBUGGER。

3)应用抑制补丁,即"取消注释Misc / valgrind-python.supp中的行,这些行禁止PyObject_Free和PyObject_Realloc"

的警告

4)使用

编译python
./configure --prefix=/home/dejan/workspace/python --without-pymalloc
make -j4 install

请注意,我同时做了2和3,而README.valgrind说要做2或3 ......更多的不会受到伤害。

现在,让我们对test.py

中的一些示例python代码进行测试
print "Test"

让我们用这个脚本在python上运行valgrind

valgrind --tool=memcheck --leak-check=full --suppressions=python2.7-2.7.5/Misc/valgrind-python.supp bin/python test.py

出乎意料的是,valgrind仍然有很多报告,其中第一个是(还有更多人)

==27944== HEAP SUMMARY:
==27944==     in use at exit: 857,932 bytes in 5,144 blocks  
==27944==   total heap usage: 22,766 allocs, 17,622 frees, 4,276,934 bytes allocated
==27944== 
==27944== 38 bytes in 1 blocks are possibly lost in loss record 24 of 1,343
==27944==    at 0x4C2A2DB: malloc (in /usr/lib/valgrind/vgpreload_memcheck-amd64-linux.so)
==27944==    by 0x46B8DD: PyString_FromString (stringobject.c:143)
==27944==    by 0x439631: PyFile_FromFile (fileobject.c:157)
==27944==    by 0x4E9B4A: _PySys_Init (sysmodule.c:1383)
==27944==    by 0x4E29E9: Py_InitializeEx (pythonrun.c:222)
==27944==    by 0x4154B4: Py_Main (main.c:546)
==27944==    by 0x577DDE4: (below main) (libc-start.c:260)

我做错了吗?有没有办法对一个没有泄漏并获得干净的valgrind输出的python脚本进行valgrind?

2 个答案:

答案 0 :(得分:41)

我找到了答案here

Python也需要在调试模式下编译,即

./configure --prefix=/home/dejan/workspace/python --without-pymalloc --with-pydebug --with-valgrind

此外,numpy有一个suppresion file可以摆脱额外的valgrind警告。

答案 1 :(得分:17)

从python 3.6开始,有一个PYTHONMALLOC环境变量,可以在发布版本中使用,无需重新编译。

PYTHONMALLOC=malloc python3 foobar.py

这将禁用pymalloc并直接使用libc malloc,使其对valgrind友好。这相当于--without-pymalloc(而且速度很慢)

如果valgrind太慢,其他值可能会有所帮助。 PYTHONMALLOC=debugPYTHONMALLOC=malloc_debug分别在默认值和libc分配器之上添加调试挂钩。他们的影响,来自文档:

  
      
  • 新分配的内存填充了字节0xCB
  •   
  • 释放的内存中填充了字节0xDB
  •   
  • 检测违反Python内存分配器API的行为。例如,PyObject_Free()调用由PyMem_Malloc()分配的内存块。
  •   
  • 在缓冲区启动之前检测写入(缓冲区下溢)
  •   
  • 在缓冲区结束后检测写入(缓冲区溢出)
  •   
  • 调用PYMEM_DOMAIN_OBJ(例如:PyObject_Malloc())和PYMEM_DOMAIN_MEM(例如:PyMem_Malloc())域的分配器函数时,检查是否保持GIL。
  •   

这将捕获一些未初始化的读取,一些在空闲后使用,一些缓冲区在/溢出等,但不报告泄漏并且不会触及未通过python分配的内存(当使用glibc时,{{ 1}}和MALLOC_PERTURB_环境变量可能有帮助)

另见: