向量化熊猫数据框将函数应用于python中的用户定义函数

时间:2018-10-16 11:51:38

标签: python pandas date vectorization apply

我想计算指定日期的一周中的星期。对于每月的第几周,我目前使用用户定义的函数。

输入数据帧:

Input data frame

输出数据帧:

Output dataframe

这是我尝试过的:

from math import ceil
def week_of_month(dt):
    """ 
       Returns the week of the month for the specified date.
    """

    first_day = dt.replace(day=1)

    dom = dt.day
    adjusted_dom = dom + first_day.weekday()

    return int(ceil(adjusted_dom/7.0))

之后,

import pandas as pd

df = pd.read_csv("input_dataframe.csv")
df.date = pd.to_datetime(df.date)
df['year_of_date'] = df.date.dt.year
df['month_of_date'] = df.date.dt.month
df['day_of_date'] = df.date.dt.day


wom = pd.Series()

# worker function for creating week of month series
def convert_date(t):
    global wom
    wom = wom.append(pd.Series(week_of_month(datetime.datetime(t[0],t[1],t[2]))), ignore_index = True)

# calling worker function for each row of dataframe
_ = df[['year_of_date','month_of_date','day_of_date']].apply(convert_date, axis = 1)

# adding new computed column to dataframe
df['week_of_month'] = wom
# here this updated dataframe should look like Output data frame.

这是针对它使用给定函数计算每月的一周的每一行数据帧。随着数据帧增加到更多行,它使计算速度变慢。因为目前我的行数超过1000万。

我正在寻找一种更快的方法。我可以对此代码进行哪些更改,以在所有行上向量化此操作?

谢谢。

编辑:阅读答案后对我有用的是以下代码,

first_day_of_month = pd.to_datetime(df.date.values.astype('datetime64[M]'))
df['week_of_month'] = np.ceil((df.date.dt.day + first_day_of_month.weekday) / 7.0).astype(int)

2 个答案:

答案 0 :(得分:1)

week_of_month方法可以向量化。最好不要转换为日期时间对象,而应使用仅熊猫方法。

first_day_of_month = df.date.to_period("M").to_timestamp()
df["week_of_month"] = np.ceil((data.day + first_day_of_month.weekday) / 7.0).astype(int)

答案 1 :(得分:0)

立即投入使用,甚至无需进入您的代码并提及X / Y问题等:
尝试获取唯一日期列表,我敢肯定,在1000万行中,您有多个是重复的。

步骤:

  1. 创建第二个df,其中仅包含您需要的列,而没有 重复项(drop_duplicates)
  2. 在小型数据框上运行功能
  3. 合并大型和小型dfs
  4. (可选)丢下一个小