使用较小的日期范围和列值过滤较大的DataFrame

时间:2018-04-29 16:47:59

标签: python pandas

我有一个更大的DataFrame df1 ,看起来像这样:

                         Data
PatId  EntryDate  Id                                        
725    2005-01-03 1422   X
       2005-01-04 1563   X
       2005-01-05 1355   X
       2005-01-06 118    X
       2005-01-09 1400   X
...                                                       
117785 2004-12-31 799998 X
       2005-01-03 796833 X
       2005-01-05 798728 X
       2005-01-08 798545 X 
       2005-01-11 797632 X

一个较小的DataFrame df2 ,如下所示:

                         PatId
EntryDate  ExitDate          
2005-01-15 2005-04-15   22407
2005-01-30 2005-04-30   95938
2005-02-07 2005-05-07  116812
2005-02-18 2005-05-18   12163
2005-02-21 2005-05-21   22908

我想要一种优雅的方式来过滤df1,只包含位于PatIdEntryDate索引之间的每个ExitDate的行在df2

1 个答案:

答案 0 :(得分:2)

您可以在PatId上合并两个DataFrame,这会将进入和退出日期带到df1,然后您只需要使用日期时间比较来过滤它。我还重置了你的索引并删除了最终显示中的帮助列,但是做你想要的。

举个例子:

import pandas as pd
df1 = pd.DataFrame({'PatId': [725, 725, 725, 725, 117785, 117785],
                   'EntryDate': ['2005-01-03', '2005-01-04', '2005-01-05', '2005-01-06',
                                '2004-12-31', '2005-01-03'],
                   'Id': [1422, 1563, 1355, 118, 7999998, 796833],
                   'Data': ['X','X','X','X','X','X']})
df1['EntryDate'] = pd.to_datetime(df1.EntryDate)
df1.set_index(['PatId', 'EntryDate', 'Id'])

df2 = pd.DataFrame({'PatId': [725, 117785],
                   'EntryDate': ['2005-01-04', '2005-01-02'],
                   'ExitDate': ['2005-01-05', '2006-01-18']})
df2['EntryDate'] = pd.to_datetime(df2.EntryDate)
df2['ExitDate'] = pd.to_datetime(df2.ExitDate)
df2.set_index(['EntryDate', 'ExitDate'])

这是实际的代码:

df = df1.reset_index().merge(df2.reset_index(), on='PatId', how='left', suffixes=['','_1'])

(df[(df.EntryDate >= df['EntryDate_1']) & (df.EntryDate <= df.ExitDate)]
    .drop(columns=['EntryDate_1', 'ExitDate'])
    .set_index(['PatId', 'EntryDate', 'Id']))

                         Data
PatId  EntryDate  Id         
725    2005-01-04 1563      X
       2005-01-05 1355      X
117785 2005-01-03 796833    X