在Python中将timedelta转换为int非常慢

时间:2018-09-11 10:58:30

标签: python pandas performance numpy datetime

我有一个包含两列的数据框,每一列由一组日期组成。 我想计算日期之间的差异,并返回天数。但是,上述过程非常缓慢。有谁知道如何加快这一过程?此代码正在大文件中使用,并且速度很重要。

onInit

enter image description here

dfx = pd.DataFrame([[datetime(2014,1,1), datetime(2014,1,10)],[datetime(2014,1,1), datetime(2015,1,10)],[datetime(2013,1,1),  datetime(2014,1,12)]], columns = ['x', 'y'])

最终目标:

enter image description here

1 个答案:

答案 0 :(得分:2)

您可能会发现 marginal 的巨大提速降到NumPy,而绕开了与pd.Series对象相关的开销。

另请参阅pd.Timestamp versus np.datetime64: are they interchangeable for selected uses?

# Python 3.6.0, Pandas 0.19.2, NumPy 1.11.3

def days_lambda(dfx):
    return (dfx['y']-dfx['x']).apply(lambda x: x.days)

def days_pd(dfx):
    return (dfx['y']-dfx['x']).dt.days

def days_np(dfx):
    return (dfx['y'].values-dfx['x'].values) / np.timedelta64(1, 'D')

# check results are identical
assert (days_lambda(dfx).values == days_pd(dfx).values).all()
assert (days_lambda(dfx).values == days_np(dfx)).all()

dfx = pd.concat([dfx]*100000)

%timeit days_lambda(dfx)  # 5.02 s per loop
%timeit days_pd(dfx)      # 5.6 s per loop
%timeit days_np(dfx)      # 4.72 ms per loop