Python无法使用urllib或mechanize检索表单

时间:2012-09-10 13:24:04

标签: python forms urllib2 mechanize urllib

我正在尝试使用Python填写并提交表单,但我无法检索生成的页面。我已尝试使用mechanize和urllib / urllib2方法发布表单,但两者都遇到了问题。

我正在尝试检索的表单在这里:http://zrs.leidenuniv.nl/ul/start.php。该页面是荷兰语,但这与我的问题无关。值得注意的是,表单操作会重定向到http://zrs.leidenuniv.nl/ul/query.php

首先,这是我尝试过的urllib / urllib2方法:

import urllib, urllib2
import socket, cookielib

url = 'http://zrs.leidenuniv.nl/ul/start.php'
params = {'day': 1, 'month': 5, 'year': 2012, 'quickselect' : "unchecked",
          'res_instantie': '_ALL_', 'selgebouw': '_ALL_', 'zrssort': "locatie",
          'submit' : "Uitvoeren"}
http_header = {  "User-Agent" : "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.46 Safari/535.11",
                 "Accept" : "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
                 "Accept-Language" : "nl-NL,nl;q=0.8,en-US;q=0.6,en;q=0.4" }

timeout = 15
socket.setdefaulttimeout(timeout)

request = urllib2.Request(url, urllib.urlencode(params), http_header)
response = urllib2.urlopen(request)

cookies = cookielib.CookieJar()
cookies.extract_cookies(response, request)
cookie_handler = urllib2.HTTPCookieProcessor(cookies)
redirect_handler = urllib2.HTTPRedirectHandler()

opener = urllib2.build_opener(redirect_handler, cookie_handler)

response = opener.open(request)
html = response.read()

但是,当我尝试打印检索到的html时,我会得到原始页面,而不是表单操作引用的页面。因此,非常感谢任何关于为何不提交表格的提示。

由于上述方法不起作用,我还尝试使用mechanize提交表单。但是,这会导致ParseError,代码如下:

import mechanize

url = 'http://zrs.leidenuniv.nl/ul/start.php'
br = mechanize.Browser()
response = br.open(url)
br.select_form(nr = 0)

最后一行退出时出现以下内容:“ParseError:unexpected' - '声明中的char”。现在我意识到这个错误可能表明DOCTYPE声明中有错误,但由于我无法编辑表单页面,因此我无法尝试不同的声明。任何有关此错误的帮助也非常感谢。

提前感谢您的帮助。

1 个答案:

答案 0 :(得分:1)

这是因为DOCTYPE部分格式不正确。

它还包含一些奇怪的标签,如:

<!Co Dreef / Eelco de Graaff Faculteit der Rechtsgeleerdheid Universiteit Leiden><!e-mail j.dreef@law.leidenuniv.nl >

自己尝试validating页面...


尽管如此,您可以剥离垃圾以使机械化html解析器满意:

import mechanize

url = 'http://zrs.leidenuniv.nl/ul/start.php'

br = mechanize.Browser()
response = br.open(url)
response.set_data(response.get_data()[177:])
br.set_response(response)

br.select_form(nr = 0)