我正在尝试一种NLP技术,以查看两个列表中单词之间的相似性。
代码如下
import en_core_web_sm
nlp = en_core_web_sm.load()
Listalpha = ['Apple', 'Grapes', 'Mango', 'Fig','Orange']
ListBeta = ['Carrot', 'Mango', 'Tomato', 'Potato', 'Lemon']
list_n =" ".join(ListBeta)
doc = nlp(list_n)
list_str = " ".join(Listalpha)
doc2 = nlp(list_str)
newlist = []
for token1 in doc:
for token2 in doc2:
newlist.append((token1.text, token2.text,token1.similarity(token2)))
words_most_similar = sorted(newlist, key=lambda x: x[2], reverse=True)
print(words_most_similar)
我得到以下输出
[('Mango', 'Mango', 1.0), ('Potato', 'Mango', 0.71168435), ('Lemon', 'Orange', 0.70560765), ('Carrot', 'Mango', 0.670182), ('Tomato', 'Mango', 0.6513121), ('Potato', 'Fig', 0.6306212), ('Tomato', 'Fig', 0.61672616), ('Carrot', 'Apple', 0.6077532), ('Lemon', 'Mango', 0.5978425), ('Mango', 'Fig', 0.5930651), ('Mango', 'Orange', 0.5529714), ('Potato', 'Apple', 0.5516073), ('Potato', 'Orange', 0.5486618), ('Lemon', 'Fig', 0.50294644), ('Mango', 'Apple', 0.48833746), ('Tomato', 'Orange', 0.44175738), ('Mango', 'Grapes', 0.42697987), ('Lemon', 'Apple', 0.42477235), ('Carrot', 'Fig', 0.3984716), ('Carrot', 'Grapes', 0.3944748), ('Potato', 'Grapes', 0.3860814), ('Tomato', 'Apple', 0.38342345), ('Carrot', 'Orange', 0.38251868), ('Tomato', 'Grapes', 0.3763761), ('Lemon', 'Grapes', 0.28998604)]
如何获取以下格式的输出
[('Mango','Mango',1.0),('Mango', 'Fig', 0.5930651), ('Mango', 'Orange', 0.5529714),('Mango', 'Apple', 0.48833746),('Mango', 'Grapes', 0.42697987),('Carrot', 'Mango', 0.670182),('Carrot', 'Apple', 0.6077532)....]
基本上,我想要这种形式的映射(ListBeta中的单词,Listalpha中的单词,余弦分数),并且它应该是统一的,而不是像我目前所看到的那样随机。如上所述,它还必须按余弦值的降序排列。
答案 0 :(得分:2)
如果确实是对结果进行排序的问题,则可以在sorted
中使用元组作为关键结果,即,您的lambda可以返回元组/列表,而python将对其进行元素排序。
words_most_similar = sorted(newlist, key=lambda t: (t[0], -t[2]))