我熟悉我应该将HTTP_RPOXY环境变量设置为代理地址。
一般来说urllib工作正常,问题是处理urllib2。
>>> urllib2.urlopen("http://www.google.com").read()
返回
urllib2.URLError: <urlopen error [Errno 10061] No connection could be made because the target machine actively refused it>
或
urllib2.URLError: <urlopen error [Errno 11004] getaddrinfo failed>
我尝试了@Fenikso回答,但我现在收到此错误:
URLError: <urlopen error [Errno 10060] A connection attempt failed because the
connected party did not properly respond after a period of time, or established
connection failed because connected host has failed to respond>
有什么想法吗?
答案 0 :(得分:60)
即使没有HTTP_PROXY环境变量,您也可以这样做。试试这个样本:
import urllib2
proxy_support = urllib2.ProxyHandler({"http":"http://61.233.25.166:80"})
opener = urllib2.build_opener(proxy_support)
urllib2.install_opener(opener)
html = urllib2.urlopen("http://www.google.com").read()
print html
在您的情况下,似乎代理服务器似乎拒绝连接。
还有更多尝试:
import urllib2
#proxy = "61.233.25.166:80"
proxy = "YOUR_PROXY_GOES_HERE"
proxies = {"http":"http://%s" % proxy}
url = "http://www.google.com/search?q=test"
headers={'User-agent' : 'Mozilla/5.0'}
proxy_support = urllib2.ProxyHandler(proxies)
opener = urllib2.build_opener(proxy_support, urllib2.HTTPHandler(debuglevel=1))
urllib2.install_opener(opener)
req = urllib2.Request(url, None, headers)
html = urllib2.urlopen(req).read()
print html
编辑2014:
这似乎是一个流行的问题/答案。但是今天我会使用第三方requests
模块。
对于一个请求,请执行:
import requests
r = requests.get("http://www.google.com",
proxies={"http": "http://61.233.25.166:80"})
print(r.text)
对于多个请求,请使用Session
对象,这样您就不必在所有请求中添加proxies
参数:
import requests
s = requests.Session()
s.proxies = {"http": "http://61.233.25.166:80"}
r = s.get("http://www.google.com")
print(r.text)
答案 1 :(得分:15)
我建议您只使用请求模块。
它比内置的http客户端容易得多: http://docs.python-requests.org/en/latest/index.html
样本用法:
r = requests.get('http://www.thepage.com', proxies={"http":"http://myproxy:3129"})
thedata = r.content
答案 2 :(得分:6)
只是想提一下,如果需要访问https网址,您可能还需要设置 https_proxy
操作系统环境变量。
在我的情况下,这对我来说并不明显,我试了几个小时才发现这一点。
我的用例:Win 7,jython-standalone-2.5.3.jar,通过ez_setup.py安装setuptools
答案 3 :(得分:3)
Python 3:
import urllib.request
htmlsource = urllib.request.FancyURLopener({"http":"http://127.0.0.1:8080"}).open(url).read().decode("utf-8")
答案 4 :(得分:0)
我在jython客户端遇到过这种情况 服务器只使用ssl上下文来讨论TLS和客户端javax.net.ssl.SSLContext.getInstance(“SSL”)
一旦客户端进入TLS,事情就开始起作用了。