在Pandas中找到最接近的DataFrame行到给定时间

时间:2013-02-27 15:12:11

标签: python datetime pandas time-series

我有一个由DatetimeIndex索引的Pandas数据帧:

<class 'pandas.core.frame.DataFrame'>
DatetimeIndex: 53732 entries, 1993-01-07 12:23:58 to 2012-12-02 20:06:23
Data columns:
Date(dd-mm-yy)_Time(hh-mm-ss)       53732  non-null values
Julian_Day                          53732  non-null values
AOT_870                             53732  non-null values
440-870Angstrom                     53732  non-null values
440-675Angstrom                     53732  non-null values
500-870Angstrom                     53732  non-null values
Last_Processing_Date(dd/mm/yyyy)    53732  non-null values
Solar_Zenith_Angle                  53732  non-null values
time                                53732  non-null values
dtypes: datetime64[ns](2), float64(6), object(1)

我想找到最接近某个时间的行:

image_time = dateutil.parser.parse('2009-07-28 13:39:02')

并找出它的接近程度。到目前为止,我已经尝试了各种各样的东西,基于从所有时间减去我想要的时间并找到最小绝对值的想法,但似乎都没有。

例如:

aeronet.index - image_time

给出了一个错误,我认为是由于+/-对日期时间索引进行了改动,所以我尝试将索引放入另一个列然后处理它:

aeronet['time'] = aeronet.index
aeronet.time - image_time

这似乎有效,但要做我想做的事,我需要得到绝对时差,而不是相对差异。但是,只需在其上运行absnp.abs就会出错:

abs(aeronet.time - image_time)

C:\Python27\lib\site-packages\pandas\core\series.pyc in __repr__(self)
   1061         Yields Bytestring in Py2, Unicode String in py3.
   1062         """
-> 1063         return str(self)
   1064 
   1065     def _tidy_repr(self, max_vals=20):

C:\Python27\lib\site-packages\pandas\core\series.pyc in __str__(self)
   1021         if py3compat.PY3:
   1022             return self.__unicode__()
-> 1023         return self.__bytes__()
   1024 
   1025     def __bytes__(self):

C:\Python27\lib\site-packages\pandas\core\series.pyc in __bytes__(self)
   1031         """
   1032         encoding = com.get_option("display.encoding")
-> 1033         return self.__unicode__().encode(encoding, 'replace')
   1034 
   1035     def __unicode__(self):

C:\Python27\lib\site-packages\pandas\core\series.pyc in __unicode__(self)
   1044                     else get_option("display.max_rows"))
   1045         if len(self.index) > (max_rows or 1000):
-> 1046             result = self._tidy_repr(min(30, max_rows - 4))
   1047         elif len(self.index) > 0:
   1048             result = self._get_repr(print_header=True,

C:\Python27\lib\site-packages\pandas\core\series.pyc in _tidy_repr(self, max_vals)
   1069         """
   1070         num = max_vals // 2
-> 1071         head = self[:num]._get_repr(print_header=True, length=False,
   1072                                     name=False)
   1073         tail = self[-(max_vals - num):]._get_repr(print_header=False,

AttributeError: 'numpy.ndarray' object has no attribute '_get_repr'

我是以正确的方式接近这个吗?如果是这样,我应该如何让abs工作,这样我就可以选择最小的绝对时差,从而获得最接近的时间。如果没有,用熊猫时间序列做到这一点的最佳方法是什么?

3 个答案:

答案 0 :(得分:16)

这个简单的方法将返回最接近给定日期时间对象的TimeSeriesIndex条目的(整数索引)。无需将索引复制到常规列 - 只需使用.to_pydatetime方法。

import numpy as np

i = np.argmin(np.abs(df.index.to_pydatetime() - image_time))

然后您只需使用DataFrame的.iloc索引器:

df.iloc[i]

这是执行此操作的功能:

def fcl(df, dtObj):
    return df.iloc[np.argmin(np.abs(df.index.to_pydatetime() - dtObj))]

然后,您可以进一步无缝过滤,例如

fcl(df, dtObj)['column']

答案 1 :(得分:7)

我认为您可以尝试DatetimeIndex.asof查找最新的标签,包括输入。然后使用返回的datetime选择适当的行。 如果您只需要特定列的值,则Series.asof存在,并将上述两个步骤合并为一个。

这假设您想要最接近的日期时间。如果您不关心日期并且每天只想要相同的时间,请在DataFrame中使用at_time

跟进:

编辑:误报警,我本地有一个旧版本。最新的主人应该使用np.abs。

In [10]: np.abs(df.time - image_time)
Out[10]: 
0    27 days, 13:39:02
1    26 days, 13:39:02
2    25 days, 13:39:02
3    24 days, 13:39:02
4    23 days, 13:39:02
5    22 days, 13:39:02

也只是为了澄清:

aeronet.index - image_time不起作用,因为Index上的减法是一个设定差异(在当天回到过去被限制为唯一的索引)。

答案 2 :(得分:0)

我今天遇到了同样的问题。我想要一个能够在给定时间戳之前为我提供最接近值的函数。这是我得到的功能:

def get_nearest_past(data, timestamp):
    index = data.index.get_loc(timestamp,"ffill")
    return data.iloc[index]

如果您需要全局最接近(而不是像我这样的最接近的),则可以使用:

def get_nearest(data, timestamp):
    index = data.index.get_loc(timestamp,"nearest")
    return data.iloc[index]

您可以在get_loc文档中找到更多信息。