我不确定标题是否很好地描述了我的问题,但是如果出现问题,我将在以后进行编辑。我已经检查了许多与此相关的问题,但是由于代码是如此嵌套,因此我在编程方面不是很有经验,因此我需要使用无法处理的combinations
。
我有一个嵌套的字典,与此类似:
example_dictionary = {'I want to eat peach and egg.':{'apple':3, 'orange':2, 'banana':5},\
'Peach juice is so delicious.':{'apple':3, 'orange':5, 'banana':2}, \
'Goddamn monkey ate my banana.':{'rice':4, 'apple':6, 'monkey':2}, \
'They say apple is good for health.':{'grape':10, 'monkey':5, 'peach':5, 'egg':8}}
我想做的是通过遵循一些规则来建立邻接矩阵。 规则是:
1)如果任何句子中的任何一个内部字典中都存在一个单词(外部字典键),则在相关句子之间添加一个权重作为该单词的值。
2)如果两个句子中的任何一个具有相同的内部dict键(单词)但值不同,则将单词的值相乘并在相关句子之间加权重。
特别注意:内部dict的长度可以不同,相同的内部dict键(单词)的值可能不同。如果它们具有我不想考虑的相同值,我希望它们仅在这种情况下相乘。
示例:
Sentence1(0): I want to eat peach and egg. {'apple':3, 'orange':2, 'banana':5}
Sentence2(1): Peach juice is so delicious. {'apple':3, 'orange':5, 'banana':2}
Sentence3(2): Goddamn monkey ate my banana.{'rice':4, 'apple':6, 'monkey':2}
Sentence4(3): They say apple is good for health. {'grape':10, 'monkey':5, 'peach':5, 'egg':8}
0和1之间:5 * 2 + 5 * 2 = 20 (因为它们的苹果具有相同的值,只是乘以橙色和香蕉的值。任何句子。
2到3之间:(2 * 5 = 10 (猴子是具有不同值的同一个钥匙)+
6 (句子4中存在句子3“苹果”的键)+
5 (句子3中存在句子4“猴子”的键)= 21
0到3之间:3 + 5 + 8 = 16 (句子1中存在句子1的键“苹果”,句子1中存在句子4的键“蛋”和“桃子”。
我希望这些例子能使之清楚。
我尝试过的(由于嵌套的结构和组合,这让我很困惑):
from itertools import combinations, zip_longest
import networkx as nx
def compare_inner_dicts(d1,d2):
#this is for comparing the inner dict keys and multiplying them
#if they have the same key but different value
values = []
inner_values = 0
for common_key in d1.keys() & d2.keys():
if d1[common_key]!= d2[common_key]:
_value = d1[common_key]*d2[common_key]
values.append(_value)
inner_values = sum([p for p in values])
inner_dict_values = inner_values
del inner_values
return inner_dict_values
def build_adj_mat(a_dict):
gr = nx.Graph()
for sentence, words in a_dict.items():
sentences = list(a_dict.keys())
gr.add_nodes_from(sentences)
sentence_pairs = combinations(gr.nodes, 2)
dict_pairs = combinations(a_dict.values(), 2)
for pair, _pair in zip_longest(sentence_pairs, dict_pairs):
numbers = []
x_numbers = []
#y_numbers = []
sentence1 = pair[0]
sentence2 = pair[1]
dict1 = _pair[0]
dict2 = _pair[1]
inner_dict_numbers = compare_inner_dicts(dict1, dict2)
numbers.append(inner_dict_numbers)
for word, num in words.items():
if sentence2.find(word)>-1:
x = words[word]
x_numbers.append(x)
numbers.extend(x_numbers)
# if sentence1.find(word)>-1: #reverse case
# y = words[word]
# y_numbers.append(y)
# numbers.extend(y_numbers)
total = sum([p for p in numbers if len(numbers)>0])
if total>0:
gr.add_edge(sentence1, sentence2, weight=total)
del total
else: del total
else:
continue
numbers.clear()
x_numbers.clear()
#y_numbers.clear()
return gr
G = build_adj_mat(example_dictionary)
print(nx.adjacency_matrix(G))
预期结果:
(0, 1) 5*2+5*2=20
(0, 2) 3*6=18+5=23
(0, 3) 3+5+8=16
(1, 0) 20
(1, 2) 3*6=18+2=20
(1, 3) 3+5=8
(2, 0) 23
(2, 1) 20
(2, 3) 2*5=10+5+6=21
(3, 0) 16
(3, 1) 8
(3, 2) 21
输出:
(0, 2) 23
(0, 3) 6
(1, 2) 23
(1, 3) 6
(2, 0) 23
(2, 1) 23
(2, 3) 16
(3, 0) 6
(3, 1) 6
(3, 2) 16
通过比较预期的输出和比较的输出,我可以理解问题之一,那就是我的代码只是检查sentence1
中的单词是否存在于sentence2
中,但没有做相反的事情。我试图通过使用注释掉的部分来解决它,但是它返回了更多的废话结果。我也不确定是否还有其他问题。我不知道如何获得正确的结果,这两个组合和嵌套结构使我完全迷失了方向。很长的问题,很抱歉,为了清楚起见,我描述了所有内容。在此先感谢您的任何帮助。
答案 0 :(得分:2)
您可以使用以下功能:
from collections import defaultdict
import itertools as it
import re
def compute_scores(sentence_dict):
scores = defaultdict(int)
for (j, (s1, d1)), (k, (s2, d2)) in it.combinations(enumerate(sentence_dict.items()), 2):
shared_keys = d1.keys() & d2.keys()
scores[j, k] += sum(d1[k]*d2[k] for k in shared_keys if d1[k] != d2[k])
scores[j, k] += sum(d1[k] for k in d1.keys() & get_words(s2))
scores[j, k] += sum(d2[k] for k in d2.keys() & get_words(s1))
return scores
def get_words(sentence):
return set(map(str.lower, re.findall(r'(?<=\b)\w+(?=\b)', sentence)))
结果当然取决于您定义的单词,因此您需要在函数get_words
中填写自己的定义。默认实现似乎适合您的示例数据。由于根据您的定义,句子对的分数是对称的,因此也无需考虑反向配对(分数相同)。即(0, 1)
的得分与(1, 0)
相同。这就是代码使用itertools.combinations
的原因。
运行示例数据:
from pprint import pprint
example_dictionary = {
'I want to eat peach and egg.': {'apple':3, 'orange':2, 'banana':5},
'Peach juice is so delicious.': {'apple':3, 'orange':5, 'banana':2},
'Goddamn monkey ate my banana.': {'rice':4, 'apple':6, 'monkey':2},
'They say apple is good for health.': {'grape':10, 'monkey':5, 'peach':5, 'egg':8}}
pprint(compute_scores(example_dictionary))
给出以下分数:
defaultdict(<class 'int'>,
{(0, 1): 20,
(0, 2): 23,
(0, 3): 16,
(1, 2): 20,
(1, 3): 8,
(2, 3): 21})
如果字典不仅可以包含单词,还可以包含短语(即多个单词),则只需对原始实现进行少量修改即可(也适用于单个单词):
scores[j, k] += sum(weight for phrase, weight in d1.items() if phrase in s2.lower())
scores[j, k] += sum(weight for phrase, weight in d2.items() if phrase in s1.lower())