如何从熊猫系列元素中获取“汇总”字数

时间:2018-12-21 19:06:01

标签: python pandas typeerror data-science word-count

我目前在Jupyter Notebook(v5.6.0)和熊猫0.23.4中使用python3.7。

我已经编写了将某些日语单词标记化的代码,并成功应用了单词计数功能,该功能可以从熊猫系列的每一行返回单词计数,如下所示:

0       [(かげ, 20), (モリア, 17), (たち, 15), (お前, 14), (おれ,...
1       [(お前, 11), (ゾロ, 10), (うっ, 10), (たち, 9), (サンジ, ...
2       [(おれ, 11), (男, 6), (てめえ, 6), (お前, 5), (首, 5), ...
3       [(おれ, 19), (たち, 14), (ヨホホホ, 12), (お前, 10), (みん...
4       [(ラブーン, 32), (たち, 14), (おれ, 12), (お前, 12), (船長...
5       [(ヨホホホ, 19), (おれ, 13), (ラブーン, 12), (船長, 11), (...
6       [(わたし, 20), (おれ, 16), (海賊, 9), (お前, 9), (もう, 9...
7       [(たち, 21), (あたし, 15), (宝石, 14), (おれ, 12), (ハッ,...
8       [(おれ, 13), (あれ, 9), (もう, 7), (ヨホホホ, 7), (見え, 7...
9       [(ケイミー, 23), (人魚, 20), (はっち, 14), (おれ, 13), (め...
10      [(ケイミー, 18), (おれ, 17), (め, 14), (たち, 12), (はっち... 

来自这个先前提出的问题:

Creating a dictionary of word count of multiple text files in a directory

我认为我可以使用答案来帮助实现目标。

我想将每行中的所有上述所有对合并成一个字典,其中的键是日语文本,而值是出现在数据集中的所有文本实例的总和。我以为我可以使用collections.Counter模块来完成此任务,方法是将系列中的每一行变成一个字典,如下所示:

vocab_list = []
for i in range(len(wordcount)):
    vocab_list.append(dict(wordcount[i]))

这给了我想要的字典格式,其中“系列”中的每一行现在都是字典,就像这样:

[{'かげ': 20,
 'モリア': 17,
 'たち': 15,
 'お前': 14,
 'おれ': 11,
 'もう': 9,
 '船長': 7,
 'っ': 7,
 '七武海': 7,
 '言っ': 6, ...

当我尝试使用sum()函数和Counter()来汇总总数时,就会出现问题:

vocab_list = sum(vocab_list, Counter())
print(vocab_list)

我没有收到预期的“聚合字典”,而是收到以下错误:

---------------------------------------------------------------------------
TypeError                                 Traceback (most recent call last)
<ipython-input-37-3c66e97f4559> in <module>()
      3     vocab_list.append(dict(wordcount[i]))
      4 
----> 5 vocab_list = sum(vocab_list, Counter())
      6 vocab_list

TypeError: unsupported operand type(s) for +: 'Counter' and 'dict'

您能解释一下代码中到底有什么错误以及如何解决吗?

2 个答案:

答案 0 :(得分:3)

如果系列中的元素类型为Counter,则可以按sum进行汇总

df.agg(sum)

示例:

from collections import Counter

df = pd.Series([[('かげ', 20), ('男', 17), ('たち', 15), ('お前', 14)],[('お前', 11), ('ゾロ', 10), ('うっ', 10), ('たち', 9)],[('おれ', 11), ('男', 6), ('てめえ', 6), ('お前', 5), ('首', 5)]])   
df = df.apply(lambda x: Counter({y[0]:y[1] for y in x}))

df
# Out:
# 0          {'かげ': 20, '男': 17, 'たち': 15, 'お前': 14}
# 1          {'お前': 11, 'ゾロ': 10, 'うっ': 10, 'たち': 9}
# 2    {'おれ': 11, '男': 6, 'てめえ': 6, 'お前': 5, '首': 5}
# dtype: object

df.agg(sum)
# Out:
# Counter({'うっ': 10,
#          'おれ': 11,
#          'お前': 30,
#          'かげ': 20,
#          'たち': 24,
#          'てめえ': 6,
#          'ゾロ': 10,
#          '男': 23,
#          '首': 5})

答案 1 :(得分:0)

我对Counter()不太了解,但我认为这可能与您的词典在列表中有关。

此外,您无需使用其他工具(例如计数器)即可轻松完成此操作。我汇总了一些可以“奏效”但在您的用例中可能无法执行的事情:

vocab_list = [{'かげ': 20,
            'モリア': 17,
            'たち': 15,
            'お前': 14,
            'おれ': 11,
            'もう': 9,
            '船長': 7}]

numberz = list(vocab_list[0].values())
totalz = 0
for x in numberz:
    totalz += x

print(totalz)

Out [29]: 93