R:使用stringdist和stringdistmatrix生成近似匹配列表

时间:2015-07-18 01:34:05

标签: r string matrix stringdist

我发现了优秀的包“stringdist”,现在想用它来计算字符串距离。特别是我有一组单词,我想打印近似匹配,其中“近匹配”是通过一些算法,如Levenshtein距离。

我在shell脚本中的工作代码非常慢,我能够在stringdist中加载并生成带有指标的矩阵。现在我想将该矩阵归结为一个只有近似匹配的较小矩阵,例如度量标准非零但小于某个阈值。

kp <-  c('leaflet','leafletr','lego','levenshtein-distance','logo')
kpm <- stringdistmatrix(kp,useNames="strings",method="lv")
> kpm
                     leaflet leafletr lego levenshtein-distance
leafletr                   1                                   
lego                       5        6                          
levenshtein-distance      16       16   18                     
logo                       6        7    1                   19
m = as.matrix(kpm)
close = apply(m, 1, function(x) x>0 & x<5)
>  close
                     leaflet leafletr  lego levenshtein-distance  logo
 leaflet                FALSE     TRUE FALSE                FALSE FALSE
 leafletr                TRUE    FALSE FALSE                FALSE FALSE
 lego                   FALSE    FALSE FALSE                FALSE  TRUE
 levenshtein-distance   FALSE    FALSE FALSE                FALSE FALSE
 logo                   FALSE    FALSE  TRUE                FALSE FALSE

好的,现在我有一个(大)dist,如何将它减少回输出类似的列表

leafletr,leaflet,1
logo,lego,1

仅适用于度量标准为非零且小于n = 5的情况?我发现“apply()”允许我进行测试,现在我需要弄清楚如何使用它。

问题不是特定于stringdist和stringdistmatrix而且是非常基本的R,但我仍然被卡住了。我怀疑答案涉及subset(),但我不知道如何将“dist”转换为其他东西。

2 个答案:

答案 0 :(得分:4)

设置数据:

library('stringdist')
library('dplyr')
kp <-  c('leaflet','leafletr','lego','levenshtein-distance','logo')
kpm <- stringdistmatrix(kp,useNames="strings",method="lv")

以下是我们可以将kpm更改为数据框的地方:

kpm <- data.frame(as.matrix(kpm))

这是一种获取数据框的方法,该数据框标记为“1”以标记单词足够接近的位置:

idx <- apply(kpm, 2, function(x) x >0 & x<5)
idx <- apply(idx, 1:2, function(x) if(isTRUE(x)) x<-1 else x<-NA)
#> idx
#                     leaflet leafletr lego levenshtein.distance logo
#  leaflet                   NA        1   NA                   NA   NA
#  leafletr                   1       NA   NA                   NA   NA
#  lego                      NA       NA   NA                   NA    1
#  levenshtein-distance      NA       NA   NA                   NA   NA
#  logo                      NA       NA    1                   NA   NA

为了简单起见,融化数据框,过滤它并删除最后一列:

final <- melt(idx) %>%
        filter(value==1) %>%
        select(Var1, Var2)

别忘了将所有东西都变成字符,而不是因素! (这有点像R中的破纪录......)

final[] <- lapply(final, as.character)
#> final
#      Var1     Var2
#  leafletr  leaflet
#   leaflet leafletr
#      logo     lego
#      lego     logo

现在我们摆脱了重复:

final <- final[!duplicated(data.frame(list(do.call(pmin,final),do.call(pmax,final)))),]

说一些好名字,你很高兴。

names(final) <- c('string 1', 'string 2')
#> final
# string 1 string 2
# leafletr  leaflet
#     logo     lego

(虽然您请求了一个列表,但这是一个数据框。从这里可以很容易地根据您的需要转换成您想要的任何内容,例如,写入csv等等。)

答案 1 :(得分:4)

你可以这样做:

library(reshape2)
d <- unique(melt(m))
out <- subset(d, value > 0 & value < 5)

此处,meltm带入长格式(带有字符串名称的2列和带有值的一列)。但是,由于我们已经融合了对称矩阵,我们使用unique进行重复数据删除。

另一种方法是使用dplyr(因为所有很酷的孩子现在都使用dplyr管道):

library(dlpyr)
library(reshape2)
library(magrittr)

out <- melt(m) %>% distinct() %>% filter(value > 0 & value < 5)

这第二个选项可能更快,但我还没有真正计时。