如何从使用tika提取的文本中获取频繁出现的单词

时间:2013-07-03 05:28:00

标签: java file apache-tika word-frequency

我使用以下代码(使用tika)提取了多种文件格式的文本(pdf,html,doc)

File file1 = new File("c://sample.pdf);
InputStream input = new FileInputStream(file1); 
BodyContentHandler handler = new BodyContentHandler(10*1024*1024);
JSONObject obj = new JSONObject();
obj.put("Content",handler.toString());

现在我的要求是从提取的内容中获取经常出现的单词,请您建议我如何执行此操作。

由于

1 个答案:

答案 0 :(得分:4)

这是最常用词的功能。

您需要将内容传递给该函数,并获得经常出现的单词。

String getMostFrequentWord(String input) {
    String[] words = input.split(" ");
    // Create a dictionary using word as key, and frequency as value
    Map<String, Integer> dictionary = new HashMap<String, Integer>();
    for (String word : words) {
        if (dictionary.containsKey(word)) {
            int frequency = dictionary.get(word);
            dictionary.put(word, frequency + 1);
        } else {
            dictionary.put(word, 1);
        }
    }

    int max = 0;
    String mostFrequentWord = "";
    Set<Entry<String, Integer>> set = dictionary.entrySet();
    for (Entry<String, Integer> entry : set) {
        if (entry.getValue() > max) {
            max = entry.getValue();
            mostFrequentWord = entry.getKey();
        }
    }

    return mostFrequentWord;
}

算法是O(n)所以性能应该没问题。