有没有替换`difflib.get_close_matches()`来返回索引(列表位置)而不是str列表?

时间:2018-06-14 15:38:19

标签: python string python-3.x similarity difflib

我想使用类似difflib.get_close_matches的内容而不是最相似的字符串,我想获取索引(即列表中的位置)。

列表的索引更灵活,因为可以将索引与其他数据结构相关联(与匹配的字符串相关)。

例如,而不是:

>>> words = ['hello', 'Hallo', 'hi', 'house', 'key', 'screen', 'hallo', 'question', 'format']
>>> difflib.get_close_matches('Hello', words)
['hello', 'hallo', 'Hallo']

我想:

>>> difflib.get_close_matches('Hello', words)
[0, 1, 6] 

似乎没有一个参数可以获得这个结果,是否有difflib.get_close_matches()的替代方法可以返回索引?

我对替代方案的研究

我知道我可以使用difflib.SequenceMatcher,然后将字符串与ratio(或quick_ratio)进行一对一比较。但是,我担心这会非常低效,因为:

  1. 我必须创建数千个SequenceMatcher对象并进行比较(我希望get_close_matches避免使用该类):

    编辑:错误。我查看了source code of get_close_matches,它实际上使用了SequenceMatcher

  2. 没有截止(我猜测有一个优化可以避免计算所有字符串的比率)

    编辑:部分错误。代码get_close_matches没有任何主要优化,除了它使用real_quick_ratio, quick_ratio and ratio alltogether。无论如何,我可以轻松地将优化复制到我自己的函数中。另外我没有认为SequenceMatcher有方法来设置序列:set_seq1set_seq2,所以至少我不必每次都创建一个对象。

  3. 据我所知,所有python库都是C编译的,这会提高性能。

    编辑:我很确定是这种情况。该函数位于名为cpython的文件夹中。

    编辑:在文件mydifflib.py中直接从difflib执行和复制the function之间存在一个小差异(p值为0.030198)。

    ipdb> timeit.repeat("gcm('hello', _vals)", setup="from difflib import get_close_matches as gcm; _vals=['hello', 'Hallo', 'hi', 'house', 'key', 'screen', 'hallo', 'question', 'format']", number=100000, repeat=10)
    [13.230449825001415, 13.126462900007027, 12.965455356999882, 12.955717618009658, 13.066136312991148, 12.935014379996574, 13.082025538009475, 12.943519036009093, 13.149949093989562, 12.970130036002956]
    
    ipdb> timeit.repeat("gcm('hello', _vals)", setup="from mydifflib import get_close_matches as gcm; _vals=['hello', 'Hallo', 'hi', 'house', 'key', 'screen', 'hallo', 'question', 'format']", number=100000, repeat=10)
    [13.363269686000422, 13.087718107010005, 13.112324478992377, 13.358293497993145, 13.283965317998081, 13.056695280989516, 13.021098569995956, 13.04310674899898, 13.024205000008806, 13.152750282009947]
    
  4. 尽管如此,它并没有我想象的那么糟糕,我想我会继续进行,除非有人知道另一个图书馆或替代方案。

2 个答案:

答案 0 :(得分:3)

我获取了get_close_matches的源代码,并修改它以返回索引而不是字符串值。

# mydifflib.py
from difflib import SequenceMatcher
from heapq import nlargest as _nlargest

def get_close_matches_indexes(word, possibilities, n=3, cutoff=0.6):
    """Use SequenceMatcher to return a list of the indexes of the best 
    "good enough" matches. word is a sequence for which close matches 
    are desired (typically a string).
    possibilities is a list of sequences against which to match word
    (typically a list of strings).
    Optional arg n (default 3) is the maximum number of close matches to
    return.  n must be > 0.
    Optional arg cutoff (default 0.6) is a float in [0, 1].  Possibilities
    that don't score at least that similar to word are ignored.
    """

    if not n >  0:
        raise ValueError("n must be > 0: %r" % (n,))
    if not 0.0 <= cutoff <= 1.0:
        raise ValueError("cutoff must be in [0.0, 1.0]: %r" % (cutoff,))
    result = []
    s = SequenceMatcher()
    s.set_seq2(word)
    for idx, x in enumerate(possibilities):
        s.set_seq1(x)
        if s.real_quick_ratio() >= cutoff and \
           s.quick_ratio() >= cutoff and \
           s.ratio() >= cutoff:
            result.append((s.ratio(), idx))

    # Move the best scorers to head of list
    result = _nlargest(n, result)

    # Strip scores for the best n matches
    return [x for score, x in result]

用法

>>> from mydifflib import get_close_matches_indexes
>>> words = ['hello', 'Hallo', 'hi', 'house', 'key', 'screen', 'hallo', 'question', 'format']
>>> get_close_matches_indexes('hello', words)
[0, 1, 6] 

现在,我可以将此索引与字符串的关联数据相关联,而无需搜索字符串。

答案 1 :(得分:0)

不是你问题的确切答案,但我试图找到一个更简单的单一匹配索引,语法是

match_string = difflib.get_close_matches(appx_name_str,names_list,n=1,cutoff=0.1)[0]
match_index = names_list.index[match_string] # index method on list of strings