矢量化的Python代码,用于迭代和更改窗口中Pandas DataFrame的每一列

时间:2018-09-23 19:05:43

标签: python pandas numpy dataframe vectorization

我有一个一和零的数据框。我用循环遍历每列。如果迭代得到一个,则应将其保留在该列中。但是,如果在此位置之后的下一个n位置中有一些位置,我应该将它们变为零。然后重复同样的操作直到列的末尾,然后在每列上重复所有这些操作。

是否有可能摆脱循环并使用pandas / numpy中的dataframe / matrix / array操作向量化所有内容?我应该怎么做呢? n的范围可以是2到100。

我尝试了此功能,但失败了,只有在它们之间至少有n个零时它才保留一个,这显然不是我所需要的:

def clear_window(df, n):

    # create buffer of size n
    pad = pd.DataFrame(np.zeros([n, df.shape[1]]),
                       columns=df.columns)
    padded_df = pd.concat([pad, df])

    # compute rolling sum and cut off the buffer
    roll = (padded_df
            .rolling(n+1)
            .sum()
            .iloc[n:, :]
           )

    # delete ones where rolling sum is above 1 or below -1
    result = df * ((roll == 1.0) | (roll == -1.0)).astype(int)

    return result

1 个答案:

答案 0 :(得分:0)

如果您找不到矢量化方法,Numba将使您更快地解决这些顺序循环问题。

此代码循环遍历每一行以查找目标值。当目标值 找到(1),接下来的n行设置为填充值(0)。搜索行索引 递增以跳过填充行,并开始下一个搜索。

from numba import jit

@jit(nopython=True)
def find_and_fill(arr, span, tgt_val=1, fill_val=0):
    start_idx = 0
    end_idx = arr.size
    while start_idx < end_idx:
        if arr[start_idx] == tgt_val:
            arr[start_idx + 1 : start_idx + 1 + span] = fill_val
            start_idx = start_idx + 1 + span
        else:
            start_idx = start_idx + 1
    return arr

df2 = df.copy()
# get the dataframe values into a numpy array
a = df2.values

# transpose and run the function for each column of the dataframe
for col in a.T:
    # fill span is set to 6 in this example
    col = find_and_fill(col, 6)

# assign the array back to the dataframe
df2[list(df2.columns)] = a

# df2 now contains the result values