我正在尝试使用Selenium登录网站,然后使用urllib2发出RESTy请求。为了使它工作,我需要urllib2能够使用相同的Selenium会话。
使用selenium登录效果很好,我可以致电
self.driver.get_cookies()
我有一个selenium知道的所有cookie的列表,最后看起来像这样:
[{u'domain': u'my.awesome.web.app.local',
u'expiry': 1319230106,
u'name': u'ci_session',
u'path': u'/',
u'secure': False,
u'value': u'9YEz6Qs9rNlONzXbZPZ5i9jm2Nn4HNrbaCJj2c%2B...'
}]
我尝试了几种不同的方法在urllib2中使用cooky,我觉得这个看起来最好:
# self.driver is my selenium driver
all_cookies = self.driver.get_cookies()
cp = urllib2.HTTPCookieProcessor()
cj = cp.cookiejar
for s_cookie in all_cookies:
cj.set_cookie(
cookielib.Cookie(
version=0
, name=s_cookie['name']
, value=s_cookie['value']
, port='80'
, port_specified=False
, domain=s_cookie['domain']
, domain_specified=True
, domain_initial_dot=False
, path=s_cookie['path']
, path_specified=True
, secure=s_cookie['secure']
, expires=None
, discard=False
, comment=None
, comment_url=None
, rest=None
, rfc2109=False
)
)
opener = urllib2.build_opener(cp)
response = opener.open(url_that_requires_a_logged_in_user)
response.geturl()
虽然不起作用。
最后一次调用response.geturl()会返回登录页面。
我错过了什么吗?
关于如何寻找问题的任何想法?
感谢。
答案 0 :(得分:14)
我可以通过使用requests
库来解决此问题。我迭代了来自selenium的cookie,然后将它们传递到一个包含name:value
对的简单字典中。
all_cookies = self.driver.get_cookies()
cookies = {}
for s_cookie in all_cookies:
cookies[s_cookie["name"]]=s_cookie["value"]
r = requests.get(my_url,cookies=cookies)
答案 1 :(得分:0)
您可以尝试以下方式。
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
urllib2.install_opener(opener)
f_opener = opener.open(url_that_requires_a_logged_in_user)
content = f_opener.read()