我有一个由DatetimeIndex索引的Pandas数据帧:
<class 'pandas.core.frame.DataFrame'>
DatetimeIndex: 53732 entries, 1993-01-07 12:23:58 to 2012-12-02 20:06:23
Data columns:
Date(dd-mm-yy)_Time(hh-mm-ss) 53732 non-null values
Julian_Day 53732 non-null values
AOT_870 53732 non-null values
440-870Angstrom 53732 non-null values
440-675Angstrom 53732 non-null values
500-870Angstrom 53732 non-null values
Last_Processing_Date(dd/mm/yyyy) 53732 non-null values
Solar_Zenith_Angle 53732 non-null values
time 53732 non-null values
dtypes: datetime64[ns](2), float64(6), object(1)
我想找到最接近某个时间的行:
image_time = dateutil.parser.parse('2009-07-28 13:39:02')
并找出它的接近程度。到目前为止,我已经尝试了各种各样的东西,基于从所有时间减去我想要的时间并找到最小绝对值的想法,但似乎都没有。
例如:
aeronet.index - image_time
给出了一个错误,我认为是由于+/-对日期时间索引进行了改动,所以我尝试将索引放入另一个列然后处理它:
aeronet['time'] = aeronet.index
aeronet.time - image_time
这似乎有效,但要做我想做的事,我需要得到绝对时差,而不是相对差异。但是,只需在其上运行abs
或np.abs
就会出错:
abs(aeronet.time - image_time)
C:\Python27\lib\site-packages\pandas\core\series.pyc in __repr__(self)
1061 Yields Bytestring in Py2, Unicode String in py3.
1062 """
-> 1063 return str(self)
1064
1065 def _tidy_repr(self, max_vals=20):
C:\Python27\lib\site-packages\pandas\core\series.pyc in __str__(self)
1021 if py3compat.PY3:
1022 return self.__unicode__()
-> 1023 return self.__bytes__()
1024
1025 def __bytes__(self):
C:\Python27\lib\site-packages\pandas\core\series.pyc in __bytes__(self)
1031 """
1032 encoding = com.get_option("display.encoding")
-> 1033 return self.__unicode__().encode(encoding, 'replace')
1034
1035 def __unicode__(self):
C:\Python27\lib\site-packages\pandas\core\series.pyc in __unicode__(self)
1044 else get_option("display.max_rows"))
1045 if len(self.index) > (max_rows or 1000):
-> 1046 result = self._tidy_repr(min(30, max_rows - 4))
1047 elif len(self.index) > 0:
1048 result = self._get_repr(print_header=True,
C:\Python27\lib\site-packages\pandas\core\series.pyc in _tidy_repr(self, max_vals)
1069 """
1070 num = max_vals // 2
-> 1071 head = self[:num]._get_repr(print_header=True, length=False,
1072 name=False)
1073 tail = self[-(max_vals - num):]._get_repr(print_header=False,
AttributeError: 'numpy.ndarray' object has no attribute '_get_repr'
我是以正确的方式接近这个吗?如果是这样,我应该如何让abs
工作,这样我就可以选择最小的绝对时差,从而获得最接近的时间。如果没有,用熊猫时间序列做到这一点的最佳方法是什么?
答案 0 :(得分:16)
这个简单的方法将返回最接近给定日期时间对象的TimeSeriesIndex条目的(整数索引)。无需将索引复制到常规列 - 只需使用.to_pydatetime
方法。
import numpy as np
i = np.argmin(np.abs(df.index.to_pydatetime() - image_time))
然后您只需使用DataFrame的.iloc
索引器:
df.iloc[i]
这是执行此操作的功能:
def fcl(df, dtObj):
return df.iloc[np.argmin(np.abs(df.index.to_pydatetime() - dtObj))]
然后,您可以进一步无缝过滤,例如
fcl(df, dtObj)['column']
答案 1 :(得分:7)
我认为您可以尝试DatetimeIndex.asof
查找最新的标签,包括输入。然后使用返回的datetime选择适当的行。
如果您只需要特定列的值,则Series.asof
存在,并将上述两个步骤合并为一个。
这假设您想要最接近的日期时间。如果您不关心日期并且每天只想要相同的时间,请在DataFrame中使用at_time
。
编辑:误报警,我本地有一个旧版本。最新的主人应该使用np.abs。
In [10]: np.abs(df.time - image_time)
Out[10]:
0 27 days, 13:39:02
1 26 days, 13:39:02
2 25 days, 13:39:02
3 24 days, 13:39:02
4 23 days, 13:39:02
5 22 days, 13:39:02
也只是为了澄清:
aeronet.index - image_time不起作用,因为Index上的减法是一个设定差异(在当天回到过去被限制为唯一的索引)。
答案 2 :(得分:0)
我今天遇到了同样的问题。我想要一个能够在给定时间戳之前为我提供最接近值的函数。这是我得到的功能:
def get_nearest_past(data, timestamp):
index = data.index.get_loc(timestamp,"ffill")
return data.iloc[index]
如果您需要全局最接近(而不是像我这样的最接近的),则可以使用:
def get_nearest(data, timestamp):
index = data.index.get_loc(timestamp,"nearest")
return data.iloc[index]
您可以在get_loc
文档中找到更多信息。