Java Jsoup web抓取

时间:2012-06-21 10:26:27

标签: java web-scraping jsoup

我试图以这种方式获得此代码的结果:

  

标题:Ben 10 Ultimate Alien

     

评论:taseen_shafquattaseen_shafquat:那是第四季的   这个系列

     

标题:Akira

     

评论:dragon3476dragon3476:我最喜欢的动画之一   优秀的工作和我的第300手表,我仍然有   从它出来的原始海报+ DVD和视频甚至是   T恤,所以是的,我不能说这么棒的坏事   动画5/5

但是,我这样做了:

  

标题:Ben 10 Ultimate Alien

     

title:taseen_shafquattaseen_shafquat:第四季是不是   这个系列

     

标题:Akira

     标题:dragon3476dragon3476:我最喜欢的动画之一   有点工作和关于我的第300块手表,我仍然得到了原始海报   从它出来+ DVD和视频甚至T恤所以是的我   对于这样一部伟大的动画5/5不能说任何坏事。

代码

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.nodes.Node;
import org.jsoup.select.Elements;

import java.io.*;
import java.util.List;

public class WebScraper {

    public static void main(String[] args) throws Exception {
        String url = "http://www.1channel.ch/latest_comments.php";
        Document doc = Jsoup.connect(url).get();
        for (Element E : doc.select("div.latest_comments > a, div.latest_comments > p")) {

         System.out.print("title: "+ E.getElementsByTag("a").text());
         System.out.println(  E.getElementsByTag("p").text());
          //    System.out.println(T);
            System.out.print("\n");

            try 
            {
            PrintWriter out = new PrintWriter(new BufferedWriter(new FileWriter("/Users/samualdoku/Desktop/Twitter/scraped.txt", true)));
            out.println(E.text());
            out.close();
             } catch (IOException e) {
            }  
        }

    }

}

这是我试图抓取的HTML。我认为问题在于href内的span标记。它包含评论者用户名。我为标题打了getElementsByTag("a"),因为标题在锚标记内。如何删除span标记,因为它会在用户名前面打印标题,而不应该这样。

 <div class="latest_comments com_class_tv">
    <a href="/tv-2733767-Dallas/season-1-episode-3">Dallas</a>
    ( 6 minutes ago )
    <p>
        <span class="latest_comments_poster">
          <a href="/profile/jowar">jowar</a>
          :
        </span>
        i just started watchin...eeing as its 34nyrs old
    </p>
</div>

1 个答案:

答案 0 :(得分:0)

试试这个

public static void main(String[] args) throws Exception {
 String url = "http://www.1channel.ch/latest_comments.php";
 Document doc = Jsoup.connect(url).get();
 for (Element E : doc.select("div.latest_comments)) {

  System.out.print("title: "+ E.select("a").text());
  System.out.println("comment: " + E.select("p").text());

 }
}