从Google搜索结果页面中提取图片的网址

时间:2013-08-09 01:40:00

标签: c# html regex

Google添加了一项很棒的功能,让您可以获得有关任何知名人士的即时信息,例如当您搜索“ Barack Obama ”时,您会在搜索结果页面上获得生物和照片,您可能无需访问任何结果即可获得该信息。

实时样本:http://goo.gl/vf1ti3

我要做的是在即时信息框的左侧获取图片的网址。我想使用HTML代码中的System.Text.RegularExpressions.Regex来实现这一目标。

我可以使用以下代码获取结果页面的来源:

private void getInfoAboutCelebrities()
{
    try
    {
        string celebrityName = null;

        Dispatcher.Invoke((Action)delegate()
        {
            DisableUI();
            celebrityName = celebrityName_textBox.Text;
        });

        celebrityName = HttpUtility.UrlEncode(celebrityName);
        string queryURL = "http://www.google.com/search?q=" + celebrityName + "+Height&safe=active&oq=" + celebrityName + "+Height&gs_l=heirloom-serp.12...0.0.0.3140.0.0.0.0.0.0.0.0..0.0....0...1ac..24.heirloom-serp..0.0.0.hXJwfydNFhk";

        HttpWebRequest request = (HttpWebRequest)HttpWebRequest.Create(queryURL);
        request.ContentType = "application/x-www-form-urlencoded";
        request.UserAgent = "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:19.0) Gecko/20100101 Firefox/19.0";
        request.Method = "GET";
        // make request for web page
        HttpWebResponse response = (HttpWebResponse)request.GetResponse();
        StreamReader htmlSource = new StreamReader(response.GetResponseStream());

        string htmlStringSource = string.Empty;
        htmlStringSource = htmlSource.ReadToEnd();
        response.Close();

        // Extracting height
        var regex = new Regex(@"<span class=""kno-a-v"">(.*?)</span>");
        var match = regex.Match(htmlStringSource);
        var result = match.Groups[1].Value;

        ///////////////////////////////////////////////////////////
        // Extracting photo ( which I couldn't do it
        regex = new Regex(@"data:image/jpeg;base64(.*?)\x3d\x3d");
        match = regex.Match(htmlStringSource);
        ///////////////////////////////////////////////////////////

        result = HttpUtility.HtmlDecode(result);

        if (String.IsNullOrWhiteSpace(result))
            MessageBox.Show("Sorry, no such entry.", "Error", MessageBoxButton.OK, MessageBoxImage.Error);
        else
        {
            Dispatcher.Invoke((Action)delegate()
            {
                preloader_Image.Visibility = Visibility.Hidden;
                MessageBox.Show(result);
            });
        }
        Dispatcher.Invoke((Action)EnableUI);
    }
    catch (Exception ex)
    {
        MessageBox.Show(ex.Message, "Error");
    }
}

谁能告诉我应该使用正则表达式? (因为实际上我甚至无法通过查看源代码来获取URL!)

1 个答案:

答案 0 :(得分:3)

图像网址很可能甚至不在您获取的HTML中。该页面上有很多Javascript。该页面旨在在浏览器中查看,该浏览器可以运行Javascript并下载图像,格式化页面等。无法保证HTML中提供所显示的信息。

但是,我怀疑你正在寻找的图像是在文件末尾附近编码base64的嵌入式图像。搜索imgthumb13,您就会找到它。您可以将其转换为二进制,然后解码图像。如果你知道图像格式。 (不,我没有。)

谷歌的搜索结果页面根本没有被机器人或刮刀阅读。事实上,谷歌使用刮刀阅读他们的结果页面对你皱眉。如果他们确定您在他们的网页上使用了刮刀,他们会阻止您。如果您要处理Google搜索结果,那么您应该使用Google Search API

另见Any form of Google Search API available for C#?

另一件事。 Google不断更改搜索结果页面的格式。即使页面看起来相同,内部结构也可能大不相同。你会发现你写的今天搜索结果页面的代码可能会在下个月破裂。我学到了一个艰难的方法。