让Pandas与Pendulum合作

时间:2017-12-16 19:42:24

标签: python pandas date datetime pendulum

我最近偶然发现了一个新的令人敬畏的pendulum library,以便更轻松地处理日期时间。

pandas中,有一个方便的to_datetime() method允许将系列和其他对象转换为日期时间:

raw_data['Mycol'] = pd.to_datetime(raw_data['Mycol'], format='%d%b%Y:%H:%M:%S.%f')

创建自定义to_<something>方法的规范方法是什么 -  在这种情况下,to_pendulum()方法可以将一系列日期字符串直接转换为Pendulum objects

这可能会导致Series具有各种有趣的功能,例如,将一系列日期字符串转换为一系列"offsets from now" - human datetime diffs

1 个答案:

答案 0 :(得分:14)

  

创建自定义to_<something>的规范方法是什么?   方法 - 在这种情况下to_pendulum()方法将能够   将一系列日期字符串直接转换为Pendulum个对象?

仔细阅读API之后,我必须说我对他们所做的事情印象深刻。不幸的是,我不认为Pendulumpandas可以一起工作(至少,使用当前的最新版本 - v0.21)。

最重要的原因是pandas本身不支持Pendulum作为数据类型。所有本机支持的数据类型(np.intnp.floatnp.datetime64)都支持某种形式的矢量化。使用数据帧,例如,一个vanilla循环和列表,你不会得到一丝性能提升。如果有的话,在apply上使用Series对象调用Pendulum将会更慢(因为所有的API开销)。

另一个原因是Pendulumdatetime -

的子类
from datetime import datetime

isinstance(pendulum.now(), datetime)
True

这很重要,因为如上所述,datetime是受支持的数据类型,因此pandas将尝试强制datetime为pandas&#39;原生日期时间格式 - Timestamp。这是一个例子。

print(s)

0     2017-11-09 18:43:45
1     2017-11-09 20:15:27
2     2017-11-09 22:29:00
3     2017-11-09 23:42:34
4     2017-11-10 00:09:40
5     2017-11-10 00:23:14
6     2017-11-10 03:32:17
7     2017-11-10 10:59:24
8     2017-11-10 11:12:59
9     2017-11-10 13:49:09

s = s.apply(pendulum.parse)
s

0    2017-11-09 18:43:45+00:00
1    2017-11-09 20:15:27+00:00
2    2017-11-09 22:29:00+00:00
3    2017-11-09 23:42:34+00:00
4    2017-11-10 00:09:40+00:00
5    2017-11-10 00:23:14+00:00
6    2017-11-10 03:32:17+00:00
7    2017-11-10 10:59:24+00:00
8    2017-11-10 11:12:59+00:00
9    2017-11-10 13:49:09+00:00
Name: timestamp, dtype: datetime64[ns, <TimezoneInfo [UTC, GMT, +00:00:00, STD]>]

s[0]
Timestamp('2017-11-09 18:43:45+0000', tz='<TimezoneInfo [UTC, GMT, +00:00:00, STD]>')

type(s[0])
pandas._libs.tslib.Timestamp

因此,遇到一些困难(涉及dtype=object),您可以将Pendulum个对象加载到数据框中。这是你如何做到的 -

v = np.vectorize(pendulum.parse)
s = pd.Series(v(s), dtype=object)

s

0     2017-11-09T18:43:45+00:00
1     2017-11-09T20:15:27+00:00
2     2017-11-09T22:29:00+00:00
3     2017-11-09T23:42:34+00:00
4     2017-11-10T00:09:40+00:00
5     2017-11-10T00:23:14+00:00
6     2017-11-10T03:32:17+00:00
7     2017-11-10T10:59:24+00:00
8     2017-11-10T11:12:59+00:00
9     2017-11-10T13:49:09+00:00

s[0]
<Pendulum [2017-11-09T18:43:45+00:00]>

但是,这基本上没用,因为调用任何 pendulum方法(通过apply)现在不仅会超级慢,而且最终会在结果中结束再次被强迫Timestamp,徒劳无功。