在python中为http连接指定具有用户名和密码的代理的最佳方法是什么?
答案 0 :(得分:57)
这对我有用:
import urllib2
proxy = urllib2.ProxyHandler({'http': 'http://
username:password@proxyurl:proxyport'})
auth = urllib2.HTTPBasicAuthHandler()
opener = urllib2.build_opener(proxy, auth, urllib2.HTTPHandler)
urllib2.install_opener(opener)
conn = urllib2.urlopen('http://python.org')
return_str = conn.read()
答案 1 :(得分:15)
设置名为 http_proxy 的环境var,如下所示: http://用户名:密码@ proxy_url:port
答案 2 :(得分:9)
通过需要身份验证的代理的最佳方法是使用urllib2构建自定义网址开启工具,然后使用它来制作您想要通过代理的所有请求。特别要注意,您可能不希望在url或python源代码中嵌入代理密码(除非它只是一个快速的黑客攻击)。
import urllib2
def get_proxy_opener(proxyurl, proxyuser, proxypass, proxyscheme="http"):
password_mgr = urllib2.HTTPPasswordMgrWithDefaultRealm()
password_mgr.add_password(None, proxyurl, proxyuser, proxypass)
proxy_handler = urllib2.ProxyHandler({proxyscheme: proxyurl})
proxy_auth_handler = urllib2.ProxyBasicAuthHandler(password_mgr)
return urllib2.build_opener(proxy_handler, proxy_auth_handler)
if __name__ == "__main__":
import sys
if len(sys.argv) > 4:
url_opener = get_proxy_opener(*sys.argv[1:4])
for url in sys.argv[4:]:
print url_opener.open(url).headers
else:
print "Usage:", sys.argv[0], "proxy user pass fetchurls..."
在更复杂的程序中,您可以根据需要分离这些组件(例如,在应用程序的生命周期内仅使用一个密码管理器)。 python文档有more examples on how to do complex things with urllib2,您可能也觉得有用。
答案 3 :(得分:8)
使用此:
import requests
proxies = {"http":"http://username:password@proxy_ip:proxy_port"}
r = requests.get("http://www.example.com/", proxies=proxies)
print(r.content)
我认为这比使用urllib
要简单得多。我不明白为什么人们如此喜欢使用urllib
。
答案 4 :(得分:3)
或者如果你想安装它,那么它总是与urllib2.urlopen一起使用(所以你不需要保持对开启者的引用):
import urllib2
url = 'www.proxyurl.com'
username = 'user'
password = 'pass'
password_mgr = urllib2.HTTPPasswordMgrWithDefaultRealm()
# None, with the "WithDefaultRealm" password manager means
# that the user/pass will be used for any realm (where
# there isn't a more specific match).
password_mgr.add_password(None, url, username, password)
auth_handler = urllib2.HTTPBasicAuthHandler(password_mgr)
opener = urllib2.build_opener(auth_handler)
urllib2.install_opener(opener)
print urllib2.urlopen("http://www.example.com/folder/page.html").read()
答案 5 :(得分:2)
以下是使用urllib
的方法import urllib.request
# set up authentication info
authinfo = urllib.request.HTTPBasicAuthHandler()
proxy_support = urllib.request.ProxyHandler({"http" : "http://ahad-haam:3128"})
# build a new opener that adds authentication and caching FTP handlers
opener = urllib.request.build_opener(proxy_support, authinfo,
urllib.request.CacheFTPHandler)
# install it
urllib.request.install_opener(opener)
f = urllib.request.urlopen('http://www.python.org/')
"""