我的python程序使用httplib2.Http发出http请求。一旦我需要生成请求,我创建一个httplib2.Http对象,以便我的程序经常创建/销毁httplib2.Http对象。
我发现由于达到最大打开文件数,我的程序很容易崩溃。检查/ proc // fd,打开套接字fds太多了。这个问题使我不得不深入研究httplib2源代码。
然后我发现,在httplib2.Http._conn_request方法中,有这样的代码:
else:
content = ""
if method == "HEAD":
conn.close()
else:
content = response.read()
response = Response(response)
if method != "HEAD":
content = _decompressContent(response, content)
break
这表明套接字仅在http方法为HEAD时关闭。也许httplib2想要以某种方式重用套接字。但是Http类没有close()方法。这意味着当我发出Http请求时,套接字将不会关闭,直到我的进程终止。
然后我修改了代码:
else:
content = ""
if method == "HEAD":
conn.close()
else:
content = response.read()
response = Response(response)
if method != "HEAD":
content = _decompressContent(response, content)
conn.close() # I ADD THIS CLOSE
break
在那之后,我的计划运作良好。
但是我仍然很好奇,如果这确实是httplib2的错误,因为httplib2是一个非常古老而且常见的lib。
答案 0 :(得分:7)
不,连接未关闭的事实不是错误,必须为下一个请求重用连接。
编写httplib2
的方式,它等待服务器关闭连接或等待超时,它不会主动关闭它们(除了错误)。如果连接已关闭,httplib2
将在下次使用时尝试重新建立。
关闭连接(作为源的补丁)会使这变得不可能,每个请求都必须使用它自己的连接。
销毁httplib2.Http
对象应该会自动关闭打开的连接,因为它们只在它的connections
字典中引用,所以如果你没有保留对你创建的Http
个对象的任何引用它应该工作。你确定你没有任何引用吗?
或者,您可以将Connnection: close
标头传递给您的请求:
http.request("http://example.org", headers={'Connection': 'close'})
这会导致服务器在每次请求后关闭连接。或者,您可以尝试手动关闭对象的connections
字典中的所有连接。