java weka stringtowordvector没有正确计算单词出现次数

时间:2011-07-25 03:00:06

标签: java string api machine-learning weka

所以我正在使用Weka机器学习库的JAVA API,我有以下代码:

    String html = "repeat repeat repeat";

    Attribute input = new Attribute("html",(FastVector) null);

    FastVector inputVec = new FastVector();
    inputVec.addElement(input);

    Instances htmlInst = new Instances("html",inputVec,1);
    htmlInst.add(new Instance(1));  
    htmlInst.instance(0).setValue(0, html);

    StringToWordVector filter = new StringToWordVector();
    filter.setUseStoplist(true);

    filter.setInputFormat(htmlInst);
    Instances dataFiltered = Filter.useFilter(htmlInst, filter);

    Instance last = dataFiltered.lastInstance();
    System.out.println(last);

虽然StringToWordVector应该计算字符串中出现的单词,而不是将“重复”一词计数3次,但计数仅为1

我做错了什么?

2 个答案:

答案 0 :(得分:6)

默认设置仅将在场/缺席报告为0/1。您必须明确启用计数。添加:

filter.setOutputWordCounts(真);

并重新运行。

Weka有一个明确的邮件列表;发布此类问题可能会给您更快的回复。

答案 1 :(得分:0)

Gee ......所有这些代码行。这几行怎么样呢?

public static Map<String, Integer> countWords(String input) {
    Map<String, Integer> map = new HashMap<String, Integer>();
    Matcher matcher = Pattern.compile("\\b\\w+\\b").matcher(input);
    while (matcher.find())
        map.put(matcher.group(), map.containsKey(matcher.group()) ? map.get(matcher.group()) + 1 : 1);
    return map;
}

以下是行动中的代码:

public static void main(String[] args) {
    System.out.println(countWords("sample, repeat sample, of text"));
}

输出:

{of=1, text=1, repeat=1, sample=2}