熊猫:上一次列具有非Nan值的情况

时间:2019-02-27 23:06:03

标签: python pandas pandas-groupby

假设我具有以下数据框:

df = pd.DataFrame({"id": [1, 1, 1, 2, 2], "nominal": [1, np.nan, 1, 1, np.nan], "numeric1": [3, np.nan, np.nan, 7, np.nan], "numeric2": [2, 3, np.nan, 2, np.nan], "numeric3": [np.nan, 2, np.nan, np.nan, 3], "date":[pd.Timestamp(2005, 6, 22), pd.Timestamp(2006, 2, 11), pd.Timestamp(2008, 9, 13), pd.Timestamp(2009, 5, 12), pd.Timestamp(2010, 5, 9)]})

作为输出,我想获取一个数据帧,该数据帧将指示自该列id看到非南值以来经过的天数。如果某列具有对应日期的值,或者某列在开始时没有新id的值,则该值应为0。此外,应仅计算该值用于数字列。话虽如此,输出数据帧应该是:

output_df = pd.DataFrame({"numeric1_delta": [0, 234, 1179, 0, 362], "numeric2_delta": [0, 0, 945, 0, 362], "numeric3_delta": [0, 0, 945, 0, 0]})

期待您的回答!

1 个答案:

答案 0 :(得分:3)

您可以将非null的总和分组,然后减去第一个日期:

In [11]: df.numeric1.notnull().cumsum()
Out[11]:
0    1
1    1
2    1
3    2
4    2
Name: numeric1, dtype: int64

In [12]: df.groupby(df.numeric1.notnull().cumsum()).date.transform(lambda x: x.iloc[0])
Out[12]:
0   2005-06-22
1   2005-06-22
2   2005-06-22
3   2009-05-12
4   2009-05-12
Name: date, dtype: datetime64[ns]

In [13]: df.date - df.groupby(df.numeric1.notnull().cumsum()).date.transform(lambda x: x.iloc[0])
Out[13]:
0      0 days
1    234 days
2   1179 days
3      0 days
4    362 days
Name: date, dtype: timedelta64[ns]

对于多列:

ncols = [col for col in df.columns if col.startswith("numeric")]

for c in ncols:
    df[c + "_delta"] = df.date - df.groupby(df[c].notnull().cumsum()).date.transform('first')