Question

以下两行代码永远挂起：

import urllib2
urllib2.urlopen('https://www.5giay.vn/', timeout=5)

这是python2.7，我没有设置http_proxy或任何其他env变量。任何其他网站工作正常。我也可以毫无问题地忘记网站。可能是什么问题？

Answer 1

如果你跑

import urllib2

url = 'https://www.5giay.vn/'
urllib2.urlopen(url, timeout=1.0)

等待几秒钟，然后使用C-c中断程序，你会看到

  File "/usr/lib/python2.7/ssl.py", line 260, in read
    return self._sslobj.read(len)
KeyboardInterrupt

这表明程序挂在self._sslobj.read(len)。

SSL timeouts raise socket.timeout

您可以通过调用来提高socket.timeout之前的延迟 socket.setdefaulttimeout(1.0)。

例如，

import urllib2
import socket

socket.setdefaulttimeout(1.0)
url = 'https://www.5giay.vn/'
try:
    urllib2.urlopen(url, timeout=1.0)
except IOError as err:
    print('timeout')

% time script.py
timeout

real    0m3.629s
user    0m0.020s
sys 0m0.024s

请注意，虽然urllib2没有the requests module，但as shown here在此处取得了成功：

import requests
r = requests.get('https://www.5giay.vn/')

如何对整个函数调用强制执行超时：

socket.setdefaulttimeout仅影响Python在引发异常之前等待的时间如果服务器尚未发出响应。

它和urlopen(..., timeout=...)都没有对整个函数调用强制执行时间限制。

为此，您可以使用eventlets，{{3}}。

如果您不想安装eventlets，可以使用标准库中的multiprocessing;虽然这个解决方案不会像一个eventlets提供的异步解决方案一样扩展。

import urllib2
import socket
import multiprocessing as mp

def timeout(t, cmd, *args, **kwds):
    pool = mp.Pool(processes=1)
    result = pool.apply_async(cmd, args=args, kwds=kwds)
    try:
        retval = result.get(timeout=t)
    except mp.TimeoutError as err:
        pool.terminate()
        pool.join()
        raise
    else:
        return retval

def open(url):
    response = urllib2.urlopen(url)
    print(response)

url = 'https://www.5giay.vn/'
try:
    timeout(5, open, url)
except mp.TimeoutError as err:
    print('timeout')

运行此功能将在挂钟时间约5秒内成功或超时。

Python urllib2不尊重超时

1 个答案: