我有一个如下所示的DataFrame:
df = {'col_1': [1,2,3,4,5,6,7,8,9,10],
'col_2': [1,2,3,4,5,6,7,8,9,10],
'col_3':['A','A','A','A','A','B','B','B','B','B']}
df = pd.DataFrame(df)
虽然我使用的实际数据有数百列,但我想使用min
,max
等不同函数以及诸如以下的自定义函数来操纵这些列:
def dist(x):
return max(x) - min(x)
def HHI(x):
ss = sum([s**2 for s in x])
return ss
我希望有一个像这样的函数:
def myfunc(cols,fun):
return df.groupby('col_3')[[cols]].transform(lambda x: fun)
# which allow me to do something like:
df[['min_' + s for s in cols]] = myfunc(cols, min)
df[['max_' + s for s in cols]] = myfunc(cols, max)
df[['dist_' + s for s in cols]] = myfunc(cols, dist)
在Python中这可能吗(我猜是“是”)?
那怎么办?
编辑======关于自定义功能的名称=======
根据{{1}}的解决方案,我要求的是可能的,至少对于内置功能,更多的工作需要考虑自定义功能。
可行的解决方案
jpp
此处的关键是使用temp = df.copy()
for func in ['HHI','DIST'] :
print(func)
temp[[ func + s for s in cols]] = df.pipe(myfunc,cols,eval(func))
功能将字符串表达式转换为函数。但是,期待有更好的方法。
编辑======每个jpp关于自定义函数名称的评论=======
根据我的测试, jpp的将函数名直接输入到eval
的注释是有效的,但是,基于myfun
的新列名将类似于:func
,但并非如此可读性很强,修改为<function HHI at 0x00000194460019D8>
,希望这对以后解决此问题的人有所帮助。
答案 0 :(得分:4)
这是使用pd.DataFrame.pipe
的一种方法。
在Python中,一切是一个对象,无需进行类型检查即可传递。经营理念是“不要检查它是否有效,只需尝试一下...”。因此,您可以将字符串或函数传递给myfunc
,然后传递给transform
,而不会产生任何有害的副作用。
def myfunc(df, cols, fun):
return df.groupby('col_3')[cols].transform(fun)
cols = ['col_1', 'col_2']
df[[f'min_{s}' for s in cols]] = df.pipe(myfunc, cols, 'min')
df[[f'max_{s}' for s in cols]] = df.pipe(myfunc, cols, 'max')
df[[f'dist_{s}' s in cols]] = df.pipe(myfunc, cols, lambda x: x.max() - x.min())
结果:
print(df)
col_1 col_2 col_3 min_col_1 min_col_2 max_col_1 max_col_2 dist_col_1 \
0 1 1 A 1 1 5 5 4
1 2 2 A 1 1 5 5 4
2 3 3 A 1 1 5 5 4
3 4 4 A 1 1 5 5 4
4 5 5 A 1 1 5 5 4
5 6 6 B 6 6 10 10 4
6 7 7 B 6 6 10 10 4
7 8 8 B 6 6 10 10 4
8 9 9 B 6 6 10 10 4
9 10 10 B 6 6 10 10 4
dist_col_2
0 4
1 4
2 4
3 4
4 4
5 4
6 4
7 4
8 4
9 4
答案 1 :(得分:3)
是的,您非常亲密:
def myfunc(cols,fun):
return df.groupby('col_3')[cols].transform(lambda x: fun(x))
或者:
def myfunc(cols,fun):
return df.groupby('col_3')[cols].transform(fun)