我不明白为什么apply
和transform
在同一数据框上调用时会返回不同的dtypes。我之前向自己解释这两个函数的方式是" apply
折叠数据,而transform
与apply
完全相同,但保留原始索引并没有崩溃。"请考虑以下事项。
df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
'cat': [1,1,0,0,1,0,0,0,0,1]})
让我们识别id
列中包含非零条目的cat
个。
>>> df.groupby('id')['cat'].apply(lambda x: (x == 1).any())
id
1 True
2 True
3 False
4 True
Name: cat, dtype: bool
大。但是,如果我们想创建一个指标列,我们可以执行以下操作。
>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0 1
1 1
2 1
3 1
4 1
5 1
6 1
7 0
8 0
9 1
Name: cat, dtype: int64
我不明白为什么dtype现在是int64
而不是any()
函数返回的布尔值。
当我更改原始数据框以包含一些布尔值时(注意零保持不变),转换方法会在object
列中返回布尔值。这对我来说是一个额外的谜,因为所有值都是布尔值,但它被列为object
,显然与原始混合型整数和布尔列的dtype
相匹配。 / p>
df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
'cat': [True,True,0,0,True,0,0,0,0,True]})
>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0 True
1 True
2 True
3 True
4 True
5 True
6 True
7 False
8 False
9 True
Name: cat, dtype: object
但是,当我使用所有布尔值时,transform函数返回一个布尔列。
df = pd.DataFrame({'id': [1,1,1,2,2,2,2,3,3,4],
'cat': [True,True,False,False,True,False,False,False,False,True]})
>>> df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
0 True
1 True
2 True
3 True
4 True
5 True
6 True
7 False
8 False
9 True
Name: cat, dtype: bool
使用我的急性模式识别技能,结果列的dtype
似乎与原始列的镜像相同。我会很感激有关为什么会出现这种情况或者在transform
函数中发生了什么的提示。欢呼声。
答案 0 :(得分:7)
看起来SeriesGroupBy.transform()
尝试将结果dtype转换为与原始列相同的结果,但DataFrameGroupBy.transform()
似乎没有这样做:
In [139]: df.groupby('id')['cat'].transform(lambda x: (x == 1).any())
Out[139]:
0 1
1 1
2 1
3 1
4 1
5 1
6 1
7 0
8 0
9 1
Name: cat, dtype: int64
# v v
In [140]: df.groupby('id')[['cat']].transform(lambda x: (x == 1).any())
Out[140]:
cat
0 True
1 True
2 True
3 True
4 True
5 True
6 True
7 False
8 False
9 True
In [141]: df.dtypes
Out[141]:
cat int64
id int64
dtype: object
答案 1 :(得分:0)
只要加上另一个说明性的示例,总和就更明确了:
df = (
pd.DataFrame(pd.np.random.rand(10, 3), columns=['a', 'b', 'c'])
.assign(a=lambda df: df.a > 0.5)
)
Out[70]:
a b c
0 False 0.126448 0.487302
1 False 0.615451 0.735246
2 False 0.314604 0.585689
3 False 0.442784 0.626908
4 False 0.706729 0.508398
5 False 0.847688 0.300392
6 False 0.596089 0.414652
7 False 0.039695 0.965996
8 True 0.489024 0.161974
9 False 0.928978 0.332414
df.groupby('a').apply(sum) # drop rows
a b c
a
False 0.0 4.618465 4.956997
True 1.0 0.489024 0.161974
df.groupby('a').transform(sum) # keep dims
b c
0 4.618465 4.956997
1 4.618465 4.956997
2 4.618465 4.956997
3 4.618465 4.956997
4 4.618465 4.956997
5 4.618465 4.956997
6 4.618465 4.956997
7 4.618465 4.956997
8 0.489024 0.161974
9 4.618465 4.956997
但是,当应用于pd.DataFrame
而不是pd.GroupBy
对象时,我看不到任何区别。