是否可以在pandas中使用groupby执行applymap?

时间:2017-02-11 01:18:27

标签: python pandas lambda group-by python-applymap

在pandas Dataframe中,我希望applymap(somefunction)使用groupby(使用一些列索引值)。

mcve_01.txt

pos         index      M1      M2      F1_x 
16230484    141      G/G      G/G       G
16230491    141      C/C      C/C       C
16230503    141      T/T      T/T       T
16230524    141      T/T      T/T       T
16230535    141      .    .         T
16232072    211      A/A      A/A       A
16232072    211      A/A      A/A       A
16229783    211      C/C      C/C       G
16229992    211      A/A      A/A       G
16230007    211      T/T      T/T       A
16230011    263      G/G      G/G       C
16230049    263      A/A      A/A       T
16230174    263      .         .        T
16230190    263      A/A      A/A       T
16230260    263      A/A      A/A       G

我编写了函数来对A,B,C,D列进行一些分析 其中A,B,C和D中的值是列表。

mcve_data = pd.read_csv('mcve_01.txt', sep='\t')

mcve_data.set_index(['pos', 'index'], append= True, inplace = True)
mcve_list = mcve_data.applymap(lambda c:[list(c)])

说功能是,

def mapfun(c):
if any(['.' in l for l in c]):
    return '.'

if all(['|' in l for l in c]):
    fun = zip

else:
    fun = product

filt_set = set(['|','/'])
filt = partial(filter,lambda l: not (l in filt_set))

return ','.join('g'.join(t) for t in fun(*map(filt, c)))

最后:

mcve_mm = (mcve_list+mcve_list.shift(1)).dropna(how='all').\
    applymap(mapfun)

给了我(最终输出)

pos    index      M1        M2      F1_x    
16230484    141  CgG,CgG,CgG,CgG        CgG,CgG,CgG,CgG         CgG
16230491    141  TgC,TgC,TgC,TgC        TgC,TgC,TgC,TgC         TgC
.....      ...   TgT,TgT,TgT,TgT        TgT,TgT,TgT,TgT         TgT
               .        .       TgT
               .        .       AgT
               AgA,AgA,AgA,AgA          AgA,AgA,AgA,AgA         AgA
               CgA,CgA,CgA,CgA          CgA,CgA,CgA,CgA         GgA
               AgC,AgC,AgC,AgC          AgC,AgC,AgC,AgC         GgG
               TgA,TgA,TgA,TgA          TgA,TgA,TgA,TgA         AgG
               GgT,GgT,GgT,GgT          GgT,GgT,GgT,GgT         CgA
               AgG,AgG,AgG,AgG          AgG,AgG,AgG,AgG         TgC

因此,如果我想为整个数据帧运行函数(mapfun)而不进行分组,则此代码可以正常工作。但是,我想通过索引值对它们进行分组来运行该函数。

不幸的是,我没有看到任何groupby和applymap的例子。

我尝试重新索引索引列,然后将函数(mapfun)包装在apply中,这不起作用。

mcve_mm = (mcve_list+mcve_list.shift(1)).dropna(how='all').groupby(['f1_index'], group_keys = False).apply(lambda x: [mapfun])

我没有收到任何错误,但在尝试分组然后申请时,功能部分搞砸了。

我得到的输出:

f1_index
141.0     [<function mapfun at 0x7fee93550f28>]
211.0     [<function mapfun at 0x7fee93550f28>]
263.0     [<function mapfun at 0x7fee93550f28>]
dtype: object

预期输出:

与最终输出相同,但输出(功能部分)按公共索引值分组

现在,我想通过使用列或索引之一中的值对数据/框架进行分组来获取此功能并在此列中应用地图。

data_groupby = (df+df.shift(1)).dropna(how='all').\
applymap(fnc) using groupby

我尝试重置索引,然后使用索引名称进行分组。但是,def fnc()特定于来自A,B,C,D列的数据。 另外,我没有找到任何在pandas df中使用applymap和groupby的示例和教程。

1 个答案:

答案 0 :(得分:2)

DataFrameGroupBy是DataFrames的字典,而不是单个DataFrame。您可以在子组中使用applymap

import pandas as pd
from numpy.random import random, randint

# Dummy data
vdata = pd.DataFrame(randint(2, size=(32,4)))
vdata.columns=[list('ABCD')]

vgb = vdata.groupby(('A','B'))
altered = []
for index, subframe in vgb:
    subframe = subframe.applymap(lambda x: x*2)
    altered.append(subframe)
    print index
    print subframe
    assert(subframe.A.mean() == index[0]*2)
    assert(subframe.B.mean() == index[1]*2)

vdata = pd.concat(altered)
print vdata