通过将另一列与第二个DataFrame进行比较,替换一列中的值

时间:2018-03-09 23:33:54

标签: python pandas dataframe merge lookup-tables

我尝试使用涉及搜索另一个DataFrame的特定条件替换air_store_id DataFrame的df列中的 NaN 值:

data = { 'air_store_id':     [ 'air_a1',   np.nan, 'air_a3',   np.nan,  'air_a5' ], 
         'hpg_store_id':     [ 'hpg_a1', 'hpg_a2',   np.nan, 'hpg_a4',    np.nan ],
                 'Test':     [ 'Alpha',    'Beta',  'Gamma',  'Delta', 'Epsilon' ]
       }

df = pd.DataFrame(data)
display(df)

enter image description here

df.air_store_id中找到NaN时,我想使用df.hpg_store_id中的值(当有一个时)将其与另一个名为id_table_df的DataFrame中的同一列进行比较,并检索其air_store_id

以下是id_table_df的样子:

ids_data = { 'air_store_id':     [ 'air_a1', 'air_a4', 'air_a3', 'air_a2' ], 
             'hpg_store_id':     [ 'hpg_a1', 'hpg_a4', 'hpg_a3', 'hpg_a2' ] }

id_table_df = pd.DataFrame(ids_data)
display(id_table_df)

enter image description here

简单地说,对于df.air_store_id中的每个 NaN ,通过将id_table_df.air_store_iddf.hpg_store_id进行比较,将其替换为id_table_df.hpg_store_id中的相应等效词。

在这种情况下,id_table_df最终将作为查找表运行。生成的DataFrame如下所示:

enter image description here

我使用以下说明tried to merge them,但会引发错误:

df.loc[df.air_store_id.isnull(), 'air_store_id'] = df.merge(id_table_df, on='hpg_store_id', how='left')['air_store_id']

错误讯息:

KeyError                                  Traceback (most recent call last)
~\Anaconda3\lib\site-packages\pandas\core\indexes\base.py in get_loc(self, key, method, tolerance)
   2441             try:
-> 2442                 return self._engine.get_loc(key)
   2443             except KeyError:
...
...
...
KeyError: 'air_store_id'

问题1:我该如何完成?

问题2:有两种方法(air_store_idhpg_store_id)可以同时执行此操作吗?如果可能的话,我不必为每一列单独运行合并。

1 个答案:

答案 0 :(得分:4)

pd.Series.map

上使用set_index后使用id_table_df
df.fillna(
    df.hpg_store_id.map(
        id_table_df.set_index('hpg_store_id').air_store_id
    ).to_frame('air_store_id')
)

      Test air_store_id hpg_store_id
0    Alpha       air_a1       hpg_a1
1     Beta       air_a2       hpg_a2
2    Gamma       air_a3          NaN
3    Delta       air_a4       hpg_a4
4  Epsilon       air_a5          NaN

同时

v = id_table_df.values
a2h = dict(v)
h2a = dict(v[:, ::-1])
df.fillna(
    pd.concat([
        df.hpg_store_id.map(h2a),
        df.air_store_id.map(a2h),
    ], axis=1, keys=['air_store_id', 'hpg_store_id'])
)

      Test air_store_id hpg_store_id
0    Alpha       air_a1       hpg_a1
1     Beta       air_a2       hpg_a2
2    Gamma       air_a3       hpg_a3
3    Delta       air_a4       hpg_a4
4  Epsilon       air_a5          NaN

广告素材解决方案
需要Python 3

v = id_table_df.values
a2h = dict(v)
h2a = dict(v[:, ::-1])
col = id_table_df.columns
swch = dict(zip(col, col[::-1]))
df.fillna(df.applymap({**a2h, **h2a}.get).rename(columns=swch))

      Test air_store_id hpg_store_id
0    Alpha       air_a1       hpg_a1
1     Beta       air_a2       hpg_a2
2    Gamma       air_a3       hpg_a3
3    Delta       air_a4       hpg_a4
4  Epsilon       air_a5         None