大熊猫计算str系列中的频率

时间:2016-05-02 17:40:56

标签: python string pandas dataframe

鉴于pandas系列的str类型,我想得到str.split返回的结果的频率。

例如,给定系列

s = pd.Series(['abc,def,ghi','ghi,abc'])

我想得到

abc: 2
def: 1
ghi: 2
结果是

。我怎么能得到这个?

编辑:该解决方案可以有效地处理5000万行的大型系列。

2 个答案:

答案 0 :(得分:3)

是你想要的吗?

In [29]: from collections import Counter

In [30]: Counter(s.str.split(',').sum())
Out[30]: Counter({'abc': 2, 'def': 1, 'ghi': 2})

In [34]: a = pd.Series(s.str.split(',').sum())

In [35]: a
Out[35]:
0    abc
1    def
2    ghi
3    ghi
4    abc
dtype: object

In [36]: a.groupby(a).size()
Out[36]:
abc    2
def    1
ghi    2
dtype: int64

答案 1 :(得分:3)

另一个使用str.splitsumvalue_counts的大熊猫解决方案:

print pd.Series(s.str.split(',').sum()).value_counts()
abc    2
ghi    2
def    1
dtype: int64

编辑:

更有效的方法:

import pandas as pd
s = pd.Series(['abc,def,ghi','ghi,abc'])
s = pd.concat([s]*10000).reset_index(drop=True)

In [17]: %timeit pd.Series(s.str.split(',').sum()).value_counts()
1 loops, best of 3: 3.1 s per loop

In [18]: %timeit s.str.split(',', expand=True).stack().value_counts()
10 loops, best of 3: 46.2 ms per loop

In [19]: %timeit pd.DataFrame([ x.split(',') for x in s.tolist() ]).stack().value_counts()
10 loops, best of 3: 22.2 ms per loop

In [20]: %timeit pd.Series([item for sublist in [ x.split(',') for x in s.tolist() ] for item in sublist]).value_counts()
100 loops, best of 3: 16.6 ms per loop