我有一个DataFrame,其中每个城市都有多个城市,每个月都有多个值。我需要按城市和月份对这些值进行分组,并用NA填充缺失的月份。
按城市和月份进行分组:
self.probes[['city', 'date', 'value']].groupby(['city',pd.Grouper(key='date', freq='M')])
| Munich | 2018-06 | values... |
| Munich | 2018-08 | values... |
| Munich | 2018-09 | values... |
| New York | 2018-06 | values... |
| New York | 2018-07 | values... |
但是我无法弥补缺少的几个月。
| Munich | 2018-06 | values... |
| Munich |*2018-07*| NA instead of values |
| Munich | 2018-08 | values... |
| Munich | 2018-09 | values... |
| New York | 2018-06 | values... |
| New York | 2018-07 | values... |
答案 0 :(得分:5)
我认为您首先需要添加一些聚合函数,例如sum
:
print (probes)
city date value
0 Munich 2018-06-01 4
1 Munich 2018-08-01 1
2 Munich 2018-08-03 5
3 Munich 2018-09-01 1
4 New York 2018-06-01 1
5 New York 2018-07-01 2
probes['date'] = pd.to_datetime(probes['date'])
s = probes.groupby(['city',pd.Grouper(key='date', freq='M')])['value'].sum()
print (s)
city date
Munich 2018-06-30 4
2018-08-31 6
2018-09-30 1
New York 2018-06-30 1
2018-07-31 2
Name: value, dtype: int64
然后将city
中的groupby
与asfreq
一起使用,reset_index
对于DatetimeIndex
是必需的:
df1 = (s.reset_index(level=0)
.groupby('city')['value']
.apply(lambda x: x.asfreq('M'))
.reset_index())
print (df1)
city date value
0 Munich 2018-06-30 4.0
1 Munich 2018-07-31 NaN
2 Munich 2018-08-31 6.0
3 Munich 2018-09-30 1.0
4 New York 2018-06-30 1.0
5 New York 2018-07-31 2.0
在月初也可以使用MS
:
probes['date'] = pd.to_datetime(probes['date'])
s = probes.groupby(['city',pd.Grouper(key='date', freq='MS')])['value'].sum()
df1 = (s.reset_index(level=0)
.groupby('city')['value']
.apply(lambda x: x.asfreq('MS'))
.reset_index()
)
print (df1)
city date value
0 Munich 2018-06-01 4.0
1 Munich 2018-07-01 NaN
2 Munich 2018-08-01 6.0
3 Munich 2018-09-01 1.0
4 New York 2018-06-01 1.0
5 New York 2018-07-01 2.0