python机械化代码获取网页截图 - 但表单提交不工作

时间:2012-10-17 16:21:17

标签: python forms post mechanize webpage-screenshot

我浏览了这个网站:http://ctrlq.org/screenshots/并发现此页面上的表单可以为我们提供的任何网址提供网页截图。

现在,我想尝试使用mechanize来查看是否可以通过python代码提交表单来实现它。

如果表单提交成功,我应该

  

恭喜,http://www.gnu.org的屏幕截图已准备就绪。   下载图片

但是,我的提交未能成功获得预期结果。我哪里错了?

以下是代码:

import mechanize
import cookielib
from BeautifulSoup import BeautifulSoup
import re


# Browser
br = mechanize.Browser()

# Cookie Jar
cj = cookielib.LWPCookieJar()
br.set_cookiejar(cj)

# Browser options
br.set_handle_equiv(True)
#br.set_handle_gzip(True)
br.set_handle_redirect(True)
br.set_handle_referer(True)
br.set_handle_robots(False)

# Follows refresh 0 but not hangs on refresh > 0
br.set_handle_refresh(mechanize._http.HTTPRefreshProcessor(), max_time=1)

# User-Agent (this is cheating, ok?)
br.addheaders = [('User-agent', 'Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.1) Gecko/2008071615 Fedora/3.0.1-1.fc9 Firefox/3.0.1')]

# The site we will navigate into, handling it's session
br.open('http://ctrlq.org/screenshots/')

html = br.response().read()
soup = BeautifulSoup(html)

hidden_str = str(soup.find('input', { "name" : "labnol" }))
m = re.search('value="(.*?)"', hidden_str)
hidden_val = m.group(1)


print hidden_val


br.select_form(nr=0)

br['url'] = "http%3A%2F%2Fwww.gnu.org"

for form in br.forms():
    print '---------------'
    print form

br.submit()

html2 = br.response().read()


##print html2

print 'if congrat.. exists in result'
print 'congrat' in html2.lower()

而且,结果如下:

>>> ================================ RESTART ================================
>>> 
2f043008c3ecfa0a86ea8a9ed8a19916
---------------
<POST http://ctrlq.org/screenshots/ application/x-www-form-urlencoded
  <TextControl(url=http%3A%2F%2Fwww.gnu.org)>
  <SubmitButtonControl(<None>=) (readonly)>
  <HiddenControl(labnol=2f043008c3ecfa0a86ea8a9ed8a19916) (readonly)>>

False
>>> 

另一方面,使用python获取给定网址的网页截图的最佳方法是什么。我不想使用pyqt,因为我不知道它是如何工作的。任何其他更简单的替代方案,内置模块或更简单的模块。

2 个答案:

答案 0 :(得分:1)

长时间提问。但如果有人需要可以使用它:

from selenium import webdriver
driver = webdriver.Firefox()
driver.get('http://www.python.org/')
driver.save_screenshot('screenshot.png')
driver.quit()

您必须从此处下载selenium软件包:https://pypi.python.org/pypi/selenium 或运行命令

  

pip install selenium

注意:您还需要 geckodriver.exe 。应该在与脚本相同的位置找到它。 下载gecko的链接:https://github.com/mozilla/geckodriver/releases

此处有关硒的其他有用文档:http://selenium-python.readthedocs.io/faq.html Selenium还有许多其他功能,机械化没有:Selenium Webdriver vs Mechanize

enter image description here

答案 1 :(得分:0)

您可以在Linux计算机上尝试使用this自行截屏。