我有时间序列数据(纪元,值),我已经转换为(日期时间,值),存储在Numpy数组中。现在我希望找到对应于给定日期的第一行的索引。因此,每天只需要一个索引。
以下是一个纯粹的Python函数,非常慢。
def day_wise_datetime(datetimes,dataseries):
unique_dates=[]
unique_indices=[]
for i in range(len(datetimes)):
if datetimes[i].day not in unique_dates:
unique_dates.append(datetimes[i])
unique_indices.append(i)
return [unique_dates,unique_indices]
Numpy提供了一种唯一方法,但它表示无法对日期时间进行排序。那么基于Numpy的技术可以用于同样的技术。
我知道 Pandas 是推荐的,但在我学习的时候,想知道是否有一些 NumPy / SciPy 解决方案就足够了。
修改 datetime变量中的值是。我刚刚切了前五个元素。
[datetime.datetime(2011, 4, 18, 18, 52, 9),
datetime.datetime(2011, 4, 18, 18, 52, 10),
datetime.datetime(2011, 4, 18, 18, 52, 11),
datetime.datetime(2011, 4, 18, 18, 52, 12),
datetime.datetime(2011, 4, 18, 18, 52, 13)]
答案 0 :(得分:2)
pandas的DataFrame提供drop_duplictes,可轻松实现您的目标:
In [121]: arr1 = np.array([dt.datetime(2013, 1, 1), dt.datetime(2013, 1, 1), dt.datetime(2013, 1, 2)])
In [122]: arr2 = np.array([1, 2, 3])
In [123]: df = pd.DataFrame({'date': arr1, 'value': arr2})
In [124]: df
Out[124]:
date value
0 2013-01-01 00:00:00 1
1 2013-01-01 00:00:00 2
2 2013-01-02 00:00:00 3
In [125]: df.drop_duplicates('date')
Out[125]:
date value
0 2013-01-01 00:00:00 1
2 2013-01-02 00:00:00 3
我在一开始就误解了你的问题。请尝试以下一个:
似乎排序是您的主要问题之一,我将该示例创建为反向日期时间列表:
In [74]: now = dt.datetime.utcnow()
In [75]: datetimes = [now - dt.timedelta(hours=6) * i for i in range(10)]
In [76]: datetimes
Out[76]:
[datetime.datetime(2013, 5, 8, 16, 47, 32, 60500),
datetime.datetime(2013, 5, 8, 10, 47, 32, 60500),
datetime.datetime(2013, 5, 8, 4, 47, 32, 60500),
datetime.datetime(2013, 5, 7, 22, 47, 32, 60500),
datetime.datetime(2013, 5, 7, 16, 47, 32, 60500),
datetime.datetime(2013, 5, 7, 10, 47, 32, 60500),
datetime.datetime(2013, 5, 7, 4, 47, 32, 60500),
datetime.datetime(2013, 5, 6, 22, 47, 32, 60500),
datetime.datetime(2013, 5, 6, 16, 47, 32, 60500),
datetime.datetime(2013, 5, 6, 10, 47, 32, 60500)]
按DataFrame
创建datetimes
并将列名设为date
:
In [81]: df = pd.DataFrame(datetimes, columns=['date'])
In [82]: df
Out[82]:
date
0 2013-05-08 16:47:32.060500
1 2013-05-08 10:47:32.060500
2 2013-05-08 04:47:32.060500
3 2013-05-07 22:47:32.060500
4 2013-05-07 16:47:32.060500
5 2013-05-07 10:47:32.060500
6 2013-05-07 04:47:32.060500
7 2013-05-06 22:47:32.060500
8 2013-05-06 16:47:32.060500
9 2013-05-06 10:47:32.060500
接下来,按DataFrame
列对date
进行排序:
In [83]: df = df.sort('date')
然后为index
添加新列:
In [85]: df['index'] = df['date'].apply(lambda x:x.day)
In [86]: df
Out[86]:
date index
9 2013-05-06 10:47:32.060500 6
8 2013-05-06 16:47:32.060500 6
7 2013-05-06 22:47:32.060500 6
6 2013-05-07 04:47:32.060500 7
5 2013-05-07 10:47:32.060500 7
4 2013-05-07 16:47:32.060500 7
3 2013-05-07 22:47:32.060500 7
2 2013-05-08 04:47:32.060500 8
1 2013-05-08 10:47:32.060500 8
0 2013-05-08 16:47:32.060500 8
然后按index
对数据进行分组,然后为每个组分配第一个数据。如果您熟悉SQL,就像SELECT FIRST(*) FROM table GROUP BY table.index
:
In [87]: df = df.groupby('index').first()
In [88]: df
Out[88]:
date
index
6 2013-05-06 10:47:32.060500
7 2013-05-07 04:47:32.060500
8 2013-05-08 04:47:32.060500
现在你可以获得独特的指数:
In [91]: df.index.values
Out[91]: array([6, 7, 8])
获得独特的日期:
In [92]: df['date'].values
Out[92]:
array(['2013-05-06T18:47:32.060500000+0800',
'2013-05-07T12:47:32.060500000+0800',
'2013-05-08T12:47:32.060500000+0800'], dtype='datetime64[ns]')