使用Python创建高级频率表

时间:2015-08-19 12:41:30

标签: python pandas dataframe word-frequency

我正在尝试根据带有pandas和Python的数据框制作频率表。事实上,它与a previous question of mine which used R完全相同。

让我们说我在pandas中有一个看起来像这样的数据帧(实际上数据帧要大得多,但为了说明的目的我限制了行):

node    |   precedingWord
-------------------------
A-bom       de
A-bom       die
A-bom       de
A-bom       een
A-bom       n
A-bom       de
acroniem    het
acroniem    t
acroniem    het
acroniem    n
acroniem    een
act         de
act         het
act         die
act         dat
act         t
act         n

我想使用这些值来计算每个节点的前一个词,但是要使用子类别。例如:向其添加值的一列标题为neuter,另一列non-neuter和最后一列restneuter将包含其中previousWord是以下值之一的所有值:thetdatnon-neuter将包含dedie,,而rest将包含不属于neuternon-neuter的所有内容。 (如果这可能是动态的,那将是很好的,换句话说,rest使用某种用于中性和非中性的反向变量。或者简单地从中性和非中性中减去值。该节点的行长度。)

示例输出(在新数据框中,让我们说freqDf,如下所示:

node    |   neuter   | nonNeuter   | rest
-----------------------------------------
A-bom       0          4             2
acroniem    3          0             2
act         3          2             1

我找到an answer to a similar question,但用例并不完全相同。在我看来,在这个问题中,所有变量都是独立的。但是,在我的情况下,很明显我有多个具有相同节点的行,这些行应该全部归结为单个频率 - 如上面预期输出所示。

我认为这样的事情(未经测试):

def specificFreq(d):  
    for uniqueWord in d['node']
        return pd.Series({'node': uniqueWord ,
            'neuter': sum(d['node' == uniqueWord] & d['precedingWord'] == 't|het|dat'),
            'nonNeuter':  sum(d['node' == uniqueWord] & d['precedingWord'] == 'de|die'),
            'rest': len(uniqueWord) - neuter - nonNeuter}) # Length of rows with the specific word, distracted by neuter and nonneuter values above

df.groupby('node').apply(specificFreq)

但我非常怀疑这是做这样事情的正确方法。

1 个答案:

答案 0 :(得分:1)

根据R解决方案的建议,您可以先更改名称,然后执行交叉制表:

df.loc[df.precedingWord.isin(neuter), "gender"] = "neuter"
df.loc[df.precedingWord.isin(non_neuter), "gender"] = "non_neuter"
df.loc[df.precedingWord.isin(neuter + non_neuter)==0, "gender"] = "rest"
# neuter + non_neuter is the concatenation of both lists.

pd.crosstab(df.node, df.gender)
gender    neuter  non_neuter  rest
node                              
A-bom          0           4     2
acroniem       3           0     2
act            3           2     1

这个更好,因为如果neuter中的non_neuterprecedingword中的单词不存在,则不会在前一个解决方案中提升KeyError

以前的解决方案,不太干净。

根据您的数据框架,您可以制作一个简单的交叉列表:

ct = pd.crosstab(df.node, df.precedingWord) 

给出:

pW        dat  de  die  een  het  n  t
node                                  
A-bom       0   3    1    1    0  1  0
acroniem    0   0    0    1    2  1  1
act         1   1    1    0    1  1  1

然后,您只想将某些列汇总在一起:

neuter = ["t", "het", "dat"]
non_neuter = ["de","die"]
freqDf = pd.DataFrame()

freqDf["neuter"] = ct[neuter].sum(axis=1)
ct.drop(neuter, axis=1, inplace=1)

freqDf["non_neuter"] = ct[non_neuter].sum(axis=1)
ct.drop(non_neuter, axis=1, inplace=1)

freqDf["rest"] = ct.sum(axis=1)

为您提供freqDf

          neuter  non_neuter  rest
node                              
A-bom          0           4     2
acroniem       3           0     2
act            3           2     1

HTH