我只知道如何提取主要文字并排除评论,但无法排除存档并链接到其他网页。
这是我的代码:
package CrawlerMain;
import java.io.IOException;
import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Node;
public class MainFour {
public static void main(String[] args) throws IOException {
Document doc = Jsoup.connect("http://www.papagomo.com").get();
//get text only
removeComments(doc);
String text = doc.body().text();
System.out.println(text);
}
private static void removeComments(Node node) {
int i = 0;
while (i < node.childNodes().size()) {
Node child = node.childNode(i);
if (child.nodeName().equals("#comment"))
child.remove();
else {
removeComments(child);
i++;
}
} //To change body of generated methods, choose Tools | Templates.
}
}
答案 0 :(得分:2)
这是一个例子,但还没有完成。您必须添加一些过滤以删除您不想要的所有内容:
Document doc = Jsoup.connect("http://www.papagomo.com").get();
for( Element element : doc.select("div") ) // Select only 'div' tags
{
final String ownText = element.ownText(); // Own text of this element
if( ownText.isEmpty() )
{
continue; // Skip empty tags
}
else
{
System.out.println(ownText); // Output to see the result
}
}