屏幕抓HTML头内容?

时间:2012-04-05 13:04:39

标签: ruby screen-scraping nokogiri mechanize

我很乐意使用CSS元素作为识别我想要的内容部分的方法来抓取HTML内容,但我需要抓取网页部分的内容:

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<!-- saved from url=(0028)http://www.peoplesafe.co.uk/ -->
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="en" lang="en">
<head>
    <meta http-equiv="Content-Type" content="text/html; charset=UTF-8" />
    <title>PeopleSafe</title>
    <link href="css/screen.css" media="screen" rel="stylesheet" type="text/css" />
    <!--[if lte IE 6]>
    <link href="http://www.peoplesafe.co.uk/styles/default/screen_ie6.css" media="screen" rel="stylesheet" type="text/css" />
    <![endif]-->
    <link rel="icon" href="http://www.peoplesafe.co.uk/styles/default/favicon.ico" />

        <script type="text/javascript" src="js/tabpane.js"></script> 
    <link type="text/css" rel="StyleSheet" href="css/tab.webfx.css?v=2" />


    <meta http-equiv="Author" content="Rare Creative Group" />
    <meta http-equiv="Description" content="Experts in lone worker safety" />
    <meta http-equiv="Keywords" content="lone, worker, safety" />
    <script type="text/javascript" src="js/spotlight.js"></script>
    <script type="text/javascript" src="js/promo.js"></script>    

<script src="http://maps.google.com/maps?ile=api&amp;v=2&amp;sensor=true&amp;key=ABQIAAAA04SCF3o4CZghg6c0Qqgd-RQxzn3bXKr_TQ6C8c2CiIf8-vjJhBS3endtVbbJ1vftXL4Wbb2PwuJ8ag" type="text/javascript"></script> 
<script type="text/javascript"> 
//<![CDATA[
function load()
{
    // required for original Peoplesafe layout:
    start();

    if ( GBrowserIsCompatible() )
    {
        // codice setcenter:
        var map = new GMap2( document.getElementById( "map" ) );

        var customUI = map.getDefaultUI();
        // Remove MapType.G_HYBRID_MAP
        //customUI.maptypes.hybrid = false;
        map.setUI(customUI);
        //map.addControl( new GSmallMapControl() );
        //map.addControl( new GMapTypeControl() );

        map.setCenter( new GLatLng( 51.612308, -1.239453 ), 11 );

        // Crea un nuovo marker nel punto specificato con una descrizione HTML associata:
        function createMarker( point, description, primary_contact_id )
        {
            //var icon = new GIcon();
            ////icon.shadow = "/images/nuvola.png";
            //icon.iconSize = new GSize(87, 38);
            ////icon.shadowSize = new GSize(107, 38);
            //icon.iconAnchor = new GPoint(6, 20);
            //icon.infoWindowAnchor = new GPoint(5, 1);
            //icon.image = "/img/.";

我需要以某种方式解析这一行的纬度和经度:

map.setCenter( new GLatLng( 51.612308, -1.239453 ), 11 );

所以在我的表格的一栏中,我想要第一部分:

51.612308

在第二栏中我想要第二部分:

-1.239453

如果没有CSS选择器,这可能吗?

修改

感谢迄今为止的帮助,非常感兴趣!

最初的问题是在您登录网站后立即进行重定向,我已经对此进行了排序,现在我做了以下操作:

put page.root

我得到了我期望的页面的完整源代码。所以现在我的代码(登录后)是:

html_doc = page.root

# Find the first <script> in the head that does not have src="..."
#script = html.at_xpath('/html/head/script[not(@src)]')

# Use a regex to find the correct code parts in the JS, using named captures
parts = script.text.match(/new GLatLng\(\s*(?<lat>.+?)\s*,\s*(?<long>.+?)\s*\)/)

p parts[:lat], parts[:long]
#=> "51.612308"
#=> "-1.239453"

运行上述内容时出错:

undefined local variable or method `script' for main:Object

2 个答案:

答案 0 :(得分:3)

这是一个解决方案;请注意,返回的部分是字符串,因此您可能需要在它们上面调用to_f来执行计算:

require 'nokogiri'
html_doc = Nokogiri.HTML(my_html)

# Find the first <script> in the head that does not have src="..."
script = html_doc.at_xpath('/html/head/script[not(@src)]')

# Use a regex to find the correct code parts in the JS, using named captures
parts = script.text.match(/new GLatLng\(\s*(?<lat>.+?)\s*,\s*(?<long>.+?)\s*\)/)

p parts[:lat], parts[:long]
#=> "51.612308"
#=> "-1.239453"

如果您不熟悉该XPath表达式以查找脚本,您可以选择执行以下操作:

script = html.css('head script').find{ |el| el['src'].nil? }

即。找到头部中的所有脚本标签,然后使用standard Ruby method查找与特定标准匹配的第一个元素。

编辑:如果您正在使用Mechanize,它会在内部使用Nokogiri来解析和处理文档。您可以直接通过代码

获取Nokogiri HTML Document对象
html_doc = my_mechanize_page.root

...或者您可以使用Mechanize::Page#at方法在页面内容上内部调用Nokogiri自己的at

我个人更喜欢前者,因为Nokogiri文档为您提供了比at更丰富的方法。但是,要么使用上面的代码。

编辑2 :例如:

script = page.at('/html/head/script[not(@src)]')
parts = script.text.match(/new GLatLng\(\s*(?<lat>.+?)\s*,\s*(?<long>.+?)\s*\)/)

答案 1 :(得分:0)

是的,如果没有CSS选择器,这是可能的。如果您可以将页面读入缓冲区或数组,则可以选择所需的部分。

()分隔,您可以检查唯一字符串new GLatLng。您知道的将是lat / long之前的元素。另请参阅NitinJS的评论和此页面,以帮助将字符串分开http://www.tizag.com/javascriptT/javascript-string-split.php