如何从网页中解析动态内容?

时间:2012-08-23 17:48:52

标签: java javascript html-parsing jsoup dynamic-data

我尝试从此网址获取代理列表:

Free proxy list

这很酷,但端口号是动态JavaScript内容。如何从此页面获取JavaScript生成的内容?我有jsoup和djNativeSwing,但我想在后台线程中执行此操作。

JWebBrowser webBrowser = new JWebBrowser();
webBrowser.navigate("http://spys.ru/en/free-proxy-list/");
System.out.println(webBrowser.getHTMLContent());

此代码返回Null结果。请帮助。

1 个答案:

答案 0 :(得分:2)

调用getHtmlContent()方法时,webbrowser没有完成加载。请改用这样的东西:

JWebBrowser webBrowser = new JWebBrowser();
webBrowser.navigate("http://spys.ru/en/free-proxy-list/");
webBrowser.addWebBrowserListener(new WebBrowserListener(){
   public void loadingProgressChanged(WebBrowserEvent e){
       if(e.getWebBrowser().getLoadingProgress()==100)
            System.out.println(webBrowser.getHTMLContent());
   }
}
/* Note: I wrote this in the comment field without any testing,
   you probably have to make the webBrowser final. */

JavaDocs是你的朋友!