python pandas dataframe按日期条件切片

时间:2013-04-23 17:48:05

标签: python dataframe pandas

我能够使用python datetime对象读取和切片pandas数据帧,但我不得不在索引中仅使用现有日期。例如,这有效:

>>> data
<class 'pandas.core.frame.DataFrame'>
DatetimeIndex: 252 entries, 2010-12-31 00:00:00 to 2010-04-01 00:00:00
Data columns:
Adj Close    252  non-null values
dtypes: float64(1)

>>> st = datetime.datetime(2010, 12, 31, 0, 0)
>>> en = datetime.datetime(2010, 12, 28, 0, 0)

>>> data[st:en]
            Adj Close
Date                 
2010-12-31     593.97
2010-12-30     598.86
2010-12-29     601.00
2010-12-28     598.92

但是,如果我使用DF中不存在的开始日期或结束日期,我会得到python KeyError。

我的问题:如何查询数据框对象的日期范围;即使DataFrame中不存在开始日期和结束日期。 pandas是否允许基于范围的切片?

我正在使用pandas版本0.10.1

4 个答案:

答案 0 :(得分:46)

使用searchsorted先找到最近的时间,然后用它来切片。

In [15]: df = pd.DataFrame([1, 2, 3], index=[dt.datetime(2013, 1, 1), dt.datetime(2013, 1, 3), dt.datetime(2013, 1, 5)])

In [16]: df
Out[16]: 
            0
2013-01-01  1
2013-01-03  2
2013-01-05  3

In [22]: start = df.index.searchsorted(dt.datetime(2013, 1, 2))

In [23]: end = df.index.searchsorted(dt.datetime(2013, 1, 4))

In [24]: df.iloc[start:end]
Out[24]: 
            0
2013-01-03  2

答案 1 :(得分:26)

简短回答:对数据进行排序(data.sort()),然后我认为一切都会按您期望的方式运作。

是的,您可以使用DataFrame中不存在的日期时间进行切片。例如:

In [12]: df
Out[12]: 
                   0
2013-04-20  1.120024
2013-04-21 -0.721101
2013-04-22  0.379392
2013-04-23  0.924535
2013-04-24  0.531902
2013-04-25 -0.957936

In [13]: df['20130419':'20130422']
Out[13]: 
                   0
2013-04-20  1.120024
2013-04-21 -0.721101
2013-04-22  0.379392

如您所见,您甚至不必构建日期时间对象;字符串工作。

因为索引中的日期时间不是连续的,所以行为很奇怪。如果我们在这里改变我的例子的索引......

In [17]: df
Out[17]: 
                   0
2013-04-22  1.120024
2013-04-20 -0.721101
2013-04-24  0.379392
2013-04-23  0.924535
2013-04-21  0.531902
2013-04-25 -0.957936

...并采取相同的切片,我们得到不同的结果。它返回范围内的第一个元素,并在范围外的第一个元素处停止。

In [18]: df['20130419':'20130422']
Out[18]: 
                   0
2013-04-22  1.120024
2013-04-20 -0.721101
2013-04-24  0.379392

这可能不是有用的行为。如果您想选择日期范围,是否有必要先按日期排序?

df.sort_index()

答案 2 :(得分:13)

您可以使用简单的蒙版来完成此任务:

date_mask = (data.index > start) & (data.index < end)
dates = data.index[date_mask]
data.ix[dates]

顺便说一句,这也适用于分层索引。在这种情况下,data.index将替换为data.index.levels[0]或类似内容。

答案 3 :(得分:0)

我对其他方法有困难,但我发现以下方法对我有用:

# Set the Index to be the Date
df['Date'] = pd.to_datetime(df['Date_1'], format='%d/%m/%Y')
df.set_index('Date', inplace=True)

# Sort the Data
df = df.sort_values('Date_1')

# Slice the Data
From = '2017-05-07'
To   = '2017-06-07'
df_Z = df.loc[From:To,:]