相似度得分基于R中的字符串比较(编辑距离)

时间:2012-07-18 06:41:40

标签: r string-comparison edit-distance

我正在尝试根据2个字符串之间的比较来指定相似度分数。在R中是否有相同的功能。我在SAS中通过SPEDIS的名称了解这样的功能。如果R中有这样的功能,请告诉我。

1 个答案:

答案 0 :(得分:40)

函数adist计算两个字符串之间的Levenshtein edit distance。这可以转换为1 - (Levenshtein编辑距离/更长的字符串长度)的相似性度量。

RecordLinkage包中的levenshteinSim函数也可以直接执行此操作,并且可能比adist更快。

library(RecordLinkage)
> levenshteinSim("apple", "apple")
[1] 1
> levenshteinSim("apple", "aaple")
[1] 0.8
> levenshteinSim("apple", "appled")
[1] 0.8333333
> levenshteinSim("appl", "apple")
[1] 0.8

ETA:有趣的是,虽然RecordLinkage包中的levenshteinDist似乎比adist略快,但levenshteinSim比其中任何一个慢得多。使用rbenchmark包:

> benchmark(levenshteinDist("applesauce", "aaplesauce"), replications=100000)
                                         test replications elapsed relative
1 levenshteinDist("applesauce", "aaplesauce")       100000   4.012        1
  user.self sys.self user.child sys.child
1     3.583    0.452          0         0
> benchmark(adist("applesauce", "aaplesauce"), replications=100000)
                               test replications elapsed relative user.self
1 adist("applesauce", "aaplesauce")       100000   4.277        1     3.707
  sys.self user.child sys.child
1    0.461          0         0
> benchmark(levenshteinSim("applesauce", "aaplesauce"), replications=100000)
                                        test replications elapsed relative
1 levenshteinSim("applesauce", "aaplesauce")       100000   7.206        1
  user.self sys.self user.child sys.child
1      6.49    0.743          0         0

这个开销仅仅归因于levenshteinSim的代码,它只是levenshteinDist的包装:

> levenshteinSim
function (str1, str2) 
{
    return(1 - (levenshteinDist(str1, str2)/pmax(nchar(str1), 
        nchar(str2))))
}

仅供参考:如果你总是比较两个字符串而不是矢量,你可以创建一个使用max代替pmax的新版本,并减少约25%的运行时间:

mylevsim = function (str1, str2) 
{
    return(1 - (levenshteinDist(str1, str2)/max(nchar(str1), 
        nchar(str2))))
}
> benchmark(mylevsim("applesauce", "aaplesauce"), replications=100000)
                                  test replications elapsed relative user.self
1 mylevsim("applesauce", "aaplesauce")       100000   5.608        1     4.987
  sys.self user.child sys.child
1    0.627          0         0

长话短说 - adistlevenshteinDist在性能方面差别不大,但如果您不想添加包依赖项,前者更可取。如何将其转化为相似性度量确实会对性能产生一些影响。