我有一个包含两列的数据框,每一列由一组日期组成。 我想计算日期之间的差异,并返回天数。但是,上述过程非常缓慢。有谁知道如何加快这一过程?此代码正在大文件中使用,并且速度很重要。
onInit
dfx = pd.DataFrame([[datetime(2014,1,1), datetime(2014,1,10)],[datetime(2014,1,1), datetime(2015,1,10)],[datetime(2013,1,1), datetime(2014,1,12)]], columns = ['x', 'y'])
最终目标:
答案 0 :(得分:2)
您可能会发现 marginal 的巨大提速降到NumPy,而绕开了与pd.Series
对象相关的开销。
另请参阅pd.Timestamp versus np.datetime64: are they interchangeable for selected uses?。
# Python 3.6.0, Pandas 0.19.2, NumPy 1.11.3
def days_lambda(dfx):
return (dfx['y']-dfx['x']).apply(lambda x: x.days)
def days_pd(dfx):
return (dfx['y']-dfx['x']).dt.days
def days_np(dfx):
return (dfx['y'].values-dfx['x'].values) / np.timedelta64(1, 'D')
# check results are identical
assert (days_lambda(dfx).values == days_pd(dfx).values).all()
assert (days_lambda(dfx).values == days_np(dfx)).all()
dfx = pd.concat([dfx]*100000)
%timeit days_lambda(dfx) # 5.02 s per loop
%timeit days_pd(dfx) # 5.6 s per loop
%timeit days_np(dfx) # 4.72 ms per loop