对熊猫数据帧进行高效计算

时间:2015-07-03 20:32:20

标签: python pandas

我需要让代码更快。这个问题非常简单,但是我没有找到一个很好的方法来进行计算而不需要遍历整个DataFrame。

我有三个dataFrame:A,B和C.

A和B各有3列,格式如下:

A(10行):

     Canal Gerencia grad
0    'ABC'   'DEF'   23
etc...

B(25行):

     Marca  Formato  grad
0    'GHI'   'JKL'    43
etc...
另一方面,

DataFrame C有5列:

C(5000行):

     Marca  Formato  Canal  Gerencia  grad
0    'GHI'   'JKL'    'ABC'   'DEF'   -102
etc...

我需要一个具有相同长度的DataFrame'C'的向量,它将三个表中的'grad'值相加,例如:

m = 'GHI'
f = 'JKL'
c = 'ABC'
g = 'DEF'
res = C['grad'][C['Marca']==m][C['Formato']==f][C['Canal']==c][C['Gerencia']==g] + A['grad'][A['Canal']==c][A['Gerencia']==g] + B['grad'][B['Formato']==f][B['Marca']==m]
>>-36

我尝试循环遍历C dataFrame,但速度太慢了。我理解我应该尽量避免循环通过dataFrame,但不知道如何做到这一点。我的实际代码是以下(工作,但非常慢):

res=[]
for row_index, row in C.iterrows():
    vec1 = A['Gerencia']==row['Gerencia']
    vec2 = A['Canal']==row['Canal']
    vec3 = B['Marca']==row['Marca']
    vec4 = B['Formato']==row['Formato']
    grad = row['grad']
    res.append(grad + sum(A['grad'][vec1][vec2])+ sum(B['grad'][vec3][vec4]))

我真的很感激能帮助你更快地完成这个程序。谢谢!

1 个答案:

答案 0 :(得分:4)

IIUC,您需要将FrameInfoC合并:

A

(这将为其添加一列),然后将结果与C = pd.merge(C, A, on=['Canal', 'Gerencia']) 合并:

B

(再次向C = pd.merge(C, B, on=['Marca', 'Formato']) 添加一列)

此时,请检查C以获取列的名称;说它们是Cgrad_foograd_bar。所以只需添加它们

grad_baz