熊猫:获取跨越多年的日期范围的每年计数

时间:2018-05-20 23:09:13

标签: python pandas date-arithmetic summarize

我有一个记录跨越多年的数据框:

WarName    |     StartDate     |    EndDate
---------------------------------------------
 'fakewar1'    01-01-1990           02-02-1995
 'examplewar'  05-01-1990           03-07-1998
 (...)
 'examplewar2'  05-07-1999           06-09-2002

我正在尝试将此数据框转换为每年总战争的摘要概述,例如:

  Year  |  Number_of_wars
----------------------------
  1989         0
  1990         2
  1991         2
  1992         3
  1994         2

通常我会使用类似df.groupby('year').count()之类的东西来逐年获得总战争,但由于我目前正在使用范围而不是设定日期,因此这种方法无效。

我目前正在编写一个生成年份列表的函数,然后列表中的每一年检查数据框中的每一行并运行一个函数来检查年份是否在该行的日期范围内(返回如果是这样,则为真)。

years = range(1816, 2006)
year_dict = {}
for year in years:
for index, row in df.iterrows():
    range = year_in_range(year, row)
    if range = True: 
       year_dict[year] = year_dict.get(year, 0) + 1

这有效,但似乎也非常复杂。所以我想知道,我错过了什么?解决这个问题的规范“熊猫方式”是什么?

3 个答案:

答案 0 :(得分:6)

pd.value_counts

使用理解
pd.value_counts([
    d.year for s, e in zip(df.StartDate, df.EndDate)
    for d in pd.date_range(s, e, freq='Y')
]).sort_index()

1990    2
1991    2
1992    2
1993    2
1994    2
1995    1
1996    1
1997    1
1999    1
2000    1
2001    1
dtype: int64

替代

from functools import reduce

def r(t):
    return pd.date_range(t.StartDate, t.EndDate, freq='Y')

pd.value_counts(reduce(pd.Index.append, map(r, df.itertuples())).year).sort_index()

设置

df = pd.DataFrame(dict(
    WarName=['fakewar1', 'examplewar', 'feuxwar2'],
    StartDate=pd.to_datetime(['01-01-1990', '05-01-1990', '05-07-1999']),
    EndDate=pd.to_datetime(['02-02-1995', '03-07-1998', '06-09-2002'])
), columns=['WarName', 'StartDate', 'EndDate'])

df

      WarName  StartDate    EndDate
0    fakewar1 1990-01-01 1995-02-02
1  examplewar 1990-05-01 1998-03-07
2    feuxwar2 1999-05-07 2002-06-09

答案 1 :(得分:3)

使用np.unique

x,y = np.unique(sum([list(range(x.year,y.year)) for x,y in zip(df.StartDate,df.EndDate)],[]), return_counts=True)
pd.Series(dict(zip(x,y)))
Out[222]: 
1990    2
1991    2
1992    2
1993    2
1994    2
1995    1
1996    1
1997    1
1999    1
2000    1
2001    1
dtype: int64

答案 2 :(得分:0)

大熊猫的其他答案是可取的,但你展示的原生Python答案不一定非常复杂;只是实例化并直接索引到数组:

wars = [0] * 191 # max(df['EndDate']).year - min(df['StartDate']).year + 1
yr_offset = 1816 # min(df['StartDate']).year

for _, row in df.iterrows():
  for yr in range(row['StartDate'].year-yr_offset, row['EndDate'].year-yr_offset): # or maybe (year+1)
    wars[yr] += 1