Question

我正在编写一个使用levenshtein distance进行更正的自动更正程序基于包含8000个单词的特定字典的不超过64个字符的短语。

字典在每一行中包含“Word word_frequency”对。我使用DictionarEntry对象来存储这些对。 Class Dictionar Entry有两个字段： value：存储单词string freq：存储频率字典存储为LinkedList。我从stdin读取了64个字符串。在处理之前我删除所有空格。 “Coo lweather” - ＆gt; “凉爽的天气” 我注意到，在levenshtein动态计算的矩阵的最后一行中计算每个前缀的levenshtein距离（参见维基百科示例）它返回所有前缀的距离。

函数lev将包含第二个参数字符串的l.distance的向量返回到所有第一个前缀，包括它自己。

我的问题是我必须遵守一些额外的规则： min lev。距离 - ＆gt;最小字数 - ＆gt;最大频率总和 - ＆gt;最低词典这可以解释为好像解决方案的总数大于1 我们用最少的单词数。如果还有不止一个，我们会遵循规则列表。

我申请的动态类似于背包动态。我不知道如何实现最小字数规则（最大频率一个非常相似）

这是我到目前为止所尝试的内容输入/输出示例失败： “保留疼痛”答案应该如此保留，我获得的实际上是如此重新服务我选择了这种方法，因为它更有效。 Java的时间限制是2秒。

更新：4月7日。我找到了问题的解决方案，但是cpu时间太长，所以我需要优化它。它不应高于2000毫秒，目前大约为6000毫秒。所以现在我的主要重点是优化它。

 public static String guess (String input, LinkedList<DictionarEntry> Dictionar){
       String curent = new String();
      String output = new String();

      int costMatrix[][][] = new int [input.length()][8000][input.length()];         
     int index[] = new int[128];
     int prev[]= new int[128];
        int d[]=new int  [128];
        int freq[]= new int[128];
        int wcount[]=new int[128];
        String values[] = new String[128];   
        for (int i=0 ; i < 128 ; i++){
                d[i]=127;
                freq[i]=0;
                wcount[i]=1;
                values[i]="";
        }           
     d[0]=0;
     freq[0]=0;

         for (int i = 0 ; i <input.length(); ++i){  

             curent=input.subSequence(i, input.length()).toString();
             long start =System.currentTimeMillis();
              for (int j = 0 ; j < Dictionar.size();++j){

                  costMatrix[i][j]=lev(Dictionar.get(j).value,curent);
                  for(int k=1;k<costMatrix[i][j].length;++k){

                      if(d[i]+costMatrix[i][j][k]<d[i+k]){
                          d[i+k]= d[i]+costMatrix[i][j][k];
                              values[i+k]=values[i]+Dictionar.get(j).value;
                              freq[i+k]=freq[i]+Dictionar.get(j).freq;
                              index[i+k]=j;
                              prev[i+k]=i;
                              wcount[i+k]=wcount[i]+1;
                      }
                       else if ((d[i]+costMatrix[i][j][k])==d[i+k])
                                        if((wcount[i]+1) <wcount[i+k]){
                              values[i+k]=values[i]+Dictionar.get(j).value;
                              freq[i+k]=freq[i]+Dictionar.get(j).freq;
                              index[i+k]=j;
                              prev[i+k]=i;
                              wcount[i+k]=wcount[i]+1;    
                                        }
                                        else if ((wcount[i]+1)==wcount[i+k])
                                         if((freq[i]+Dictionar.get(j).freq)>freq[i+k]){
                                             values[i+k]=values[i]+Dictionar.get(j).value;
                                             freq[i+k]=freq[i]+Dictionar.get(j).freq;
                                             index[i+k]=j;
                                             prev[i+k]=i;
                                             wcount[i+k]=wcount[i]+1;       
                                         }
                                         else if ((freq[i]+Dictionar.get(j).freq)==freq[i+k]){
                                             if((values[i]+Dictionar.get(j).value).compareTo(values[i+k])>0){
                                                 values[i+k]=values[i]+Dictionar.get(j).value;
                                              freq[i+k]=freq[i]+Dictionar.get(j).freq;
                                              index[i+k]=j;
                                              prev[i+k]=i;
                                              wcount[i+k]=wcount[i]+1;  
                                             }
                                         }
                  }     
              }
              long finished =System.currentTimeMillis();
                    System.out.println((finished-start)); 

      output="";

         } 

          int itr=input.length();
                   while(itr!=0){
      output = Dictionar.get(index[itr]).value + " " + output;
      itr=prev[itr]; 
  } 
     return output;
  }

我应该在哪里实施规则以及如何（理想情况下以比使用矩阵更有效的方式）？

如果有任何问题或我遗漏了一些不清楚的地方，请随时提出

Answer 1

您无法使用Apache Lucene等现有库的原因？它支持使用Levenshtein距离的fuzzy queries。

除此之外，您可能需要考虑Suffix Trees以加快部分字符串搜索

文本自动纠正的动态算法

1 个答案: