我有一个pandas数据框,如下所示:
id date value name
0 C1 2017-01-01 31 Company 1
1 C1 2017-01-02 35 Company 1
2 C1 2017-01-03 32 Company 1
3 C1 2017-01-06 36 Company 1
4 C1 2017-01-07 35 Company 1
5 C1 2017-01-08 34 Company 1
6 C1 2017-01-10 33 Company 1
7 C2 2017-01-01 225 Company 2
8 C2 2017-01-02 223 Company 2
9 C2 2017-01-03 223 Company 2
10 C2 2017-01-06 220 Company 2
11 C2 2017-01-07 222 Company 2
12 C2 2017-01-08 225 Company 2
13 C2 2017-01-10 224 Company 2
14 C3 2017-01-08 340 Company 3
对于此数据框,日期范围为 start_date 2017-01-01 和 end_date 2017-01-10 ,包括两者。这就是所有数据都在这两个日期之间。
我想为缺少的日期添加新行。例如,对于id C1 , 2017-01-04,2017-01-05,2017-01-09 值列中缺少值/ strong>和新行应添加如下值列中的 0 。
C1 2017-01-04 0 Company1
C1 2017-01-05 0 Company1
C1 2017-01-09 0 Company1
对于 C2 ,同样 2017-01-04,2017-01-05,2017-01-09 值列中缺少值和 C3 2017-01-01至2017-01-07和2017-01-09,2017-01-10 < / p>
我正在努力弄清楚,如何使用pandas执行添加这些行的操作。所以,只是寻求一些帮助。
答案 0 :(得分:4)
一个选项是使用pandas.date_range
创建您想要完成的所有日期,然后您可以在完整日期之间进行外部联接,每个子数据框都在日期上键入列,最后用0填充缺失值:
# create complete dates
dates = pd.DataFrame({"date": pd.date_range("2017-01-01", "2017-01-10")})
# convert date column to date time if it's not already
df['date'] = pd.to_datetime(df.date)
# merge complete dates with each sub data frame separately using groupby.apply
(df.groupby(['id', 'name'])['date', 'value']
.apply(lambda g: g.merge(dates, how="outer"))
.fillna(0)
.reset_index(level=[0,1])
.reset_index(drop=True))
# id name date value
#0 C1 Company 1 2017-01-01 31.0
#1 C1 Company 1 2017-01-02 35.0
#2 C1 Company 1 2017-01-03 32.0
#3 C1 Company 1 2017-01-06 36.0
#4 C1 Company 1 2017-01-07 35.0
#5 C1 Company 1 2017-01-08 34.0
#6 C1 Company 1 2017-01-10 33.0
#7 C1 Company 1 2017-01-04 0.0
#8 C1 Company 1 2017-01-05 0.0
#9 C1 Company 1 2017-01-09 0.0
# ...