Question

我有一个程序（NLTK-NER），它为我提供了这个列表：

[
    ('Barak', 'PERSON'),
    ('Obama', 'PERSON'),
    ('is', 'O'),
    ('the', 'O'),
    ('president', 'O'),
    ('of', 'O'),
    ('United', 'LOCATION'),
    ('States', 'LOCATION'),
    ('of', 'LOCATION'),
    ('America', 'LOCATION')
]

正如你所看到的那样＆＃34; Barak＆＃34;奥巴马＆＃34;奥巴马＆＃34;是＆＃34; PERSON＆＃34;类型的单词，我想将它们（和＃34; LOCATION＆＃34;类型的单词）合并在一起，如下所示：

['Barak Obama','is','the','president', 'of','United States of America']

我该如何解决这个问题？

Answer 1

我们在这里要做的事情本质上是将classified_text的一些项目组合在一起......所以itertools.groupby()可以提供帮助。首先，我们需要一个关键功能，将标记为'PERSON'或'LOCATION'的项目视为相似，并将所有其他项目视为不同。

由于我们需要一种方法来区分具有相同标记（'PERSON'或'LOCATION'除外）的相邻项目，因此这有点复杂。 ('is', 'O'), ('the', 'O')等我们可以使用enumerate()：

>>> list(enumerate(classified_text))
[..., (2, ('is', 'O')), (3, ('the', 'O')), (4, ('president', 'O')), ...]

现在我们知道我们要提供什么作为groupby()的输入，我们可以编写我们的关键功能：

def person_or_location(item):
    index, (word, tag) = item
    if tag in {'PERSON', 'LOCATION'}:
        return tag
    else:
        return index

请注意，赋值中index, (word, tag)的结构与枚举列表中每个项的结构相匹配。

一旦我们得到了这个，我们就可以编写另一个函数来进行实际的合并：

from itertools import groupby

def merge(tagged_text):
    enumerated_text = enumerate(tagged_text)
    grouped_text = groupby(enumerated_text, person_or_location)
    return [
        ' '.join(word for index, (word, tag) in group)
        for key, group in grouped_text
    ]

这是在行动：

>>> merge(classified_text)
['Barak Obama', 'is', 'the', 'president', 'of', 'United States of America']

Answer 2

这是我想到的第一件事，非常确定它可以优化但是一个好的开始。

    classified_text = [('Barak', 'PERSON'), ('Obama', 'PERSON'), ('is', 'O'), ('the', 'O'), ('president', 'O'), ('of', 'O'), ('United', 'LOCATION'), ('States', 'LOCATION'), ('of', 'LOCATION'), ('America', 'LOCATION')]

    # Reverse the list so it pops the first element
    classified_text.reverse()
    # Create an aux list to store the result and add the first item
    new_text = [classified_text.pop(), ]
    # Iterate over the text
    while classified_text:
        old_word = new_text[-1]
        new_word = classified_text.pop()

        # If previous word has same type, merge. 
        # Avoid merging 'O' types
        if old_word[1] == new_word[1] and new_word[1] != 'O':
            new_text[-1] = (
                ' '.join((old_word[0], new_word[0])),
                new_word[1],
            )

        # If not just add the tuple
        else:
            new_text.append(new_word)

    # Remove the types from the list and you have your result
    new_text = [x[0] for x in new_text]

合并单词对列表中的第一个单词，具体取决于这些单词对中的第二个单词

2 个答案: