为什么wordnet中的NLTK wn.all_synsets()函数不返回同义词列表?

时间:2016-06-14 11:17:24

标签: python nlp generator nltk wordnet

我为问题编码:

  

什么百分比的名词同义词没有下位词?您可以使用wn.all_synsets('n')获取所有名词同义词。

这是我的代码:

import nltk
from nltk.corpus import wordnet as wn

all_noun = wn.all_synsets('n')
print(all_noun)
print(wn.all_synsets('n'))
all_num = len(set(all_noun))
noun_have_hypon = [word for word in wn.all_synsets('n') if len(word.hyponyms()) >= 1]
noun_have_num = len(noun_have_hypon)
print('There are %d nouns, and %d nouns without hyponyms, the percentage is %f' %
  (all_num, noun_have_num, (all_num-noun_have_num)/all_num*100))

当我运行此代码时,输​​出为

  

<generator object all_synsets at 0x10927b1b0>

     

<generator object all_synsets at 0x10e6f0bd0>

     

有82115个名词和16693个没有下位词的名词,百分比是79.671193

但如果改变

noun_have_hypon = [word for word in wn.all_synsets('n') if len(word.hyponyms()) >= 1]

noun_have_hypon = [word for word in all_noun if len(word.hyponyms()) >= 1]

输出变为

  

<generator object all_synsets at 0x10917b1b0>

     

<generator object all_synsets at 0x10e46aab0>

     

有82115个名词,0个没有下位词的名词,百分比是100.000000

为什么即使all_noun = wn.all_synsets('n')两个答案不相等,0x10927b1b0&amp;的含义是什么? 0x10e6f0bd0?

1 个答案:

答案 0 :(得分:2)

它与NLTK没什么关系,但更多的是Generator Expressions vs. List Comprehension之间的区别。

让我们来看一个小例子:

首先,让我们创建一个返回简单列表的函数:

>>> def some_func_that_returns_a_list():
...     list_to_be_returned = []
...     for i in range(10):
...             list_to_be_returned.append(i)
...     return list_to_be_returned
... 
>>> some_func_that_returns_a_list()
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

请注意,在some_func_that_returns_a_list()函数中,需要创建一个列表,并在函数返回到调用它的代码中的位置之前放入值。

同样,我们可以使用生成器来实现需要返回的相同列表,但它有点不同,因为它使用yield关键字:

>>> def some_func_that_returns_a_generator():
...     for i in range(10):
...             yield i
... 
>>> 

请注意,在函数中没有要返回的列表的实例化。

当你试图调用该函数时:

>>>some_func_that_returns_a_generator()
<generator object some_func_that_returns_a_generator at 0x7f312719a780>

您会收到生成器的字符串表示,即只是描述该函数的内容。此时,没有实例化的值和生成器的指针,它应该小于实例化列表的函数:

>>> import sys
>>> sys.getsizeof(some_func_that_returns_a_generator())
80
>>> sys.getsizeof(some_func_that_returns_a_list())
200

由于生成器不会实例化您需要的结果列表的值,它只会弹出一次yield个项目,您需要手动&#34;循环生成器以获取列表,例如:

>>> list(some_func_that_returns_a_generator())
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]
>>> [i for i in some_func_that_returns_a_generator()]
[0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

但在这种情况下,它正在创建列表&#34;在飞行中&#34;如果你不打算停止列表但是一次只读出一个元素,那么生成器将是有利的(记忆明智)。

另见:

因此,对于NLTK wn.all_synsets() WordNet API,您可以执行以下操作:

>>> from nltk.corpus import wordnet as wn
>>> nouns_in_wordnet = list(wn.all_synsets('n'))

但请注意,它会保存内存中名词的Synset的整个列表。

如果你想过滤超过1个上位词的名词,你可以避免使用filter()函数实例化完整的名词列表:

>>> filter(lambda ss: len(ss.hypernyms()) > 0, wn.all_synsets('n'))

最后算上它&#34;在飞行中&#34;如果不将Synsets存储在内存中,您可以执行以下操作:

>>> len(filter(lambda ss: len(ss.hypernyms()) > 0, wn.all_synsets('n')))
74389

或更简洁:

>>> sum(1 for ss in wn.all_synsets('n') if len(ss.hypernyms()) > 0)
74389

但最有可能的是,您希望访问Synsets,因此您可能正在寻找:

>>> nouns_with_hyper = filter(lambda ss: len(ss.hypernyms()) > 0, wn.all_synsets('n'))
>>> len(nouns_with_hyper)
74389