数据帧中的矢量化标志分配

时间:2018-08-02 18:25:50

标签: python pandas numpy vectorization

我有一个数据框,其中的观察值包含许多代码。我想将一行中存在的代码与一个列表进行比较。如果该列表中有任何代码,我希望标记该行。我可以使用itertuples方法来完成此操作,如下所示:

import pandas as pd
import numpy as np

df = pd.DataFrame({ 'id' : [1,2,3,4,5],
                    'cd1' : ['abc1', 'abc2', 'abc3','abc4','abc5'],
                    'cd2' : ['abc3','abc4','abc5','abc6',''],
                    'cd3' : ['abc10', '', '', '','']})

code_flags = ['abc1','abc6']

# initialize flag column
df['flag'] = 0

# itertuples method

for row in df.itertuples():
    if any(df.iloc[row.Index, 1:4].isin(code_flags)):
       df.at[row.Index, 'flag'] = 1

输出正确添加带有适当标志的flag列,其中1表示已标记的条目。

但是,在我的实际用例中,这需要几个小时才能完成。我尝试使用numpy.where对这种方法进行矢量化处理。

df['flag'] = 0 # reset
df['flag'] = np.where(any(df.iloc[:,1:4].isin(code_flags)),1,0)

似乎对所有事物的评估相同。我认为我对向量化如何处理索引感到困惑。我可以删除分号并写上df.iloc[1:4],以获得相同的结果。

我误解了where函数吗?我的索引编制是否正确,并且在所有情况下都导致True评估?有一个更好的方法吗?

1 个答案:

答案 0 :(得分:1)

使用np.where而非.any的{​​{1}}

any(..)