我最近偶然发现了一个新的令人敬畏的pendulum
library,以便更轻松地处理日期时间。
在pandas
中,有一个方便的to_datetime()
method允许将系列和其他对象转换为日期时间:
raw_data['Mycol'] = pd.to_datetime(raw_data['Mycol'], format='%d%b%Y:%H:%M:%S.%f')
创建自定义to_<something>
方法的规范方法是什么 -
在这种情况下,to_pendulum()
方法可以将一系列日期字符串直接转换为Pendulum
objects?
这可能会导致Series
具有各种有趣的功能,例如,将一系列日期字符串转换为一系列"offsets from now" - human datetime diffs。
答案 0 :(得分:14)
创建自定义
to_<something>
的规范方法是什么? 方法 - 在这种情况下to_pendulum()
方法将能够 将一系列日期字符串直接转换为Pendulum
个对象?
仔细阅读API之后,我必须说我对他们所做的事情印象深刻。不幸的是,我不认为Pendulum
和pandas
可以一起工作(至少,使用当前的最新版本 - v0.21
)。
最重要的原因是pandas
本身不支持Pendulum
作为数据类型。所有本机支持的数据类型(np.int
,np.float
和np.datetime64
)都支持某种形式的矢量化。使用数据帧,例如,一个vanilla循环和列表,你不会得到一丝性能提升。如果有的话,在apply
上使用Series
对象调用Pendulum
将会更慢(因为所有的API开销)。
另一个原因是Pendulum
是datetime
-
from datetime import datetime
isinstance(pendulum.now(), datetime)
True
这很重要,因为如上所述,datetime
是受支持的数据类型,因此pandas将尝试强制datetime
为pandas&#39;原生日期时间格式 - Timestamp
。这是一个例子。
print(s)
0 2017-11-09 18:43:45
1 2017-11-09 20:15:27
2 2017-11-09 22:29:00
3 2017-11-09 23:42:34
4 2017-11-10 00:09:40
5 2017-11-10 00:23:14
6 2017-11-10 03:32:17
7 2017-11-10 10:59:24
8 2017-11-10 11:12:59
9 2017-11-10 13:49:09
s = s.apply(pendulum.parse)
s
0 2017-11-09 18:43:45+00:00
1 2017-11-09 20:15:27+00:00
2 2017-11-09 22:29:00+00:00
3 2017-11-09 23:42:34+00:00
4 2017-11-10 00:09:40+00:00
5 2017-11-10 00:23:14+00:00
6 2017-11-10 03:32:17+00:00
7 2017-11-10 10:59:24+00:00
8 2017-11-10 11:12:59+00:00
9 2017-11-10 13:49:09+00:00
Name: timestamp, dtype: datetime64[ns, <TimezoneInfo [UTC, GMT, +00:00:00, STD]>]
s[0]
Timestamp('2017-11-09 18:43:45+0000', tz='<TimezoneInfo [UTC, GMT, +00:00:00, STD]>')
type(s[0])
pandas._libs.tslib.Timestamp
因此,遇到一些困难(涉及dtype=object
),您可以将Pendulum
个对象加载到数据框中。这是你如何做到的 -
v = np.vectorize(pendulum.parse)
s = pd.Series(v(s), dtype=object)
s
0 2017-11-09T18:43:45+00:00
1 2017-11-09T20:15:27+00:00
2 2017-11-09T22:29:00+00:00
3 2017-11-09T23:42:34+00:00
4 2017-11-10T00:09:40+00:00
5 2017-11-10T00:23:14+00:00
6 2017-11-10T03:32:17+00:00
7 2017-11-10T10:59:24+00:00
8 2017-11-10T11:12:59+00:00
9 2017-11-10T13:49:09+00:00
s[0]
<Pendulum [2017-11-09T18:43:45+00:00]>
但是,这基本上没用,因为调用任何 pendulum
方法(通过apply
)现在不仅会超级慢,而且最终会在结果中结束再次被强迫Timestamp
,徒劳无功。