我有100个代理的列表。我感兴趣的网址是abc.com。我想检查可以成功获取此URL的代理数量以及相同的时间。我希望我有道理。我是一个Python noob。我正在寻找一个代码片段。非常感谢伸出援助之手:)
Proxies :
200.43.54.212
200.43.54.212
200.43.54.212
200.43.54.212
URL :
abc.com
Desired result :
Proxy isGood Time
200.43.54.112 n 23.12
200.43.54.222 n 12.34
200.43.54.102 y 11.09
200.43.54.111 y 8.85
p.s:所有上述代理都有端口80或8080
答案 0 :(得分:4)
您可以使用urllib2获取网址。要获得所花费的时间,您可以使用时间模块。这是一个简单的例子,可以满足您的需求:
import urllib2
import time
def testProxies(url, proxies):
# prepare the request
req = urllib2.Request(url)
# run the request for each proxy
results = ["Proxy isGood Time"]
for proxy in (proxies):
# now set the proxy
req.set_proxy(proxy, "http")
# time it
start = time.time()
# try to open the URL
try:
urllib2.urlopen(req)
# format the results for success
results.append("%s y %.2f" % (proxy, time.time()-start))
except urllib2.URLError:
# format the results for failure
results.append("%s n %.2f" % (proxy, time.time()-start))
return results
testResults = testProxies("http://www.abc.com", ["200.43.54.112", "200.43.54.222",
"200.43.54.102", "200.43.54.111"])
for result in testResults:
print result
要点是使用urllib2.Request(url)
并使用set_proxy()
功能创建请求,该功能允许您为请求设置代理。