Question

我正在尝试使用mechanize从网站检索一些数据，以自动搜索公寓（没有垃圾邮件）

但是，当我向网站发送请求时，响应具有以下标题：

header: Cache-Control: no-store, no-cache, max-age=0, must-revalidate, private,  max-     stale=0, post-check=0, pre-check=0
header: Content-Type: text/html
header: P3P: CP="ALL IND DSP COR ADM CONo CUR CUSo IVAo IVDo PSA PSD TAI TELo OUR SAMo CNT COM INT NAV ONL PHY PRE PUR UNI"
header: Date: Mon, 16 Jun 2014 19:13:23 GMT
header: Connection: close
header: Set-Cookie: SPSI=1f5cf9461ca8ab1ee7f4d427ce1c895b ; path=/
header: Content-Length: 10965

并且响应文字说明了某些内容＆＃34;您必须启用Cookie＆＃34; 我怎样才能用机械化来模拟它？这样做似乎不起作用：

br = mechanize.Browser()
# Cookie Jar
cj = cookielib.LWPCookieJar()
br.set_cookiejar(cj)

仅供参考，我的机械化为0.2.5。如果这没有成功，我正在考虑Selenium。

Answer 1

我遇到了同样的问题。添加这些浏览器选项。从这里开始：http://stockrt.github.io/p/emulating-a-browser-in-python-with-mechanize/

 # Browser options
 br.set_handle_equiv(True)
 br.set_handle_gzip(True)
 br.set_handle_redirect(True)
 br.set_handle_referer(True)
 br.set_handle_robots(False)

 # Follows refresh 0 but not hangs on refresh > 0
 br.set_handle_refresh(mechanize._http.HTTPRefreshProcessor(), max_time=1)

我还建议使用调试消息

 # Want debugging messages?
 #br.set_debug_http(True)
 #br.set_debug_redirects(True)
 #br.set_debug_responses(True)

将Mechanize设置为接受cookie

1 个答案: