Question

我有一个数据框d，其中包含约100,000,000行和3列。看起来像这样：

import pandas as pd 

In [17]: d = pd.DataFrame({'id': ['a', 'b', 'c', 'd', 'e'], 'val': [1, 2, 3, 4, 5], 'n': [34, 22, 95, 86, 44]}) 

In [18]: d.set_index(['id', 'val'], inplace = True)

我还有一个要保存在id中的值val和d的数据框。我要保留id和val约60万种组合：

In [20]: keep = pd.DataFrame({'id':['a', 'b'], 'val' : [1, 2]})

我已经通过以下方式尝试过：

In [21]: keep.set_index(['id', 'val'], inplace = True)

In [22]: d.loc[d.index.isin(keep.index), :] 
Out [22]:         
                   n
         id val    
          a  1    34
          b  2    22

此方法有效，但看起来笨拙且非常慢。这里有更好的方法吗？在熊猫上切片Multindex的最快方法是什么？

Answer 1

loc获取一个元组列表，用于引用MultiIndex

d.loc[[*keep.itertuples(index=False)]]

         n
id val    
a  1    34
b  2    22

一种更讨厌的方式来做同样的事情。（实际上不是推荐）

d.loc[[*zip(*map(keep.get, keep))]]

         n
id val    
a  1    34
b  2    22

优点是减少了3个字符。您只需要牺牲对正在发生的事情的了解。

Answer 2

使用reindex

d.reindex(pd.MultiIndex.from_frame(keep))
Out[151]: 
         n
id val    
a  1    34
b  2    22

Answer 3

使用loc通过d为keep编制索引：

# d.loc[pd.MultiIndex.from_arrays([keep['id'], keep['val']]))]
d.reindex(pd.MultiIndex.from_arrays([keep['id'], keep['val']])))

         n
id val    
a  1    34
b  2    22

在哪里

pd.MultiIndex.from_arrays([keep['id'], keep['val']])

MultiIndex(levels=[['a', 'b'], [1, 2]],
           codes=[[0, 1], [0, 1]],
           names=['id', 'val'])

从keep生成用于过滤的MultiIndex。

另一种选择是尝试与df.merge合并：

d.merge(keep, left_index=True, right_on=['id', 'val'])

    n id  val
0  34  a    1
1  22  b    2

d.merge(keep, left_index=True, right_on=['id', 'val']).set_index(['n', 'id'])

       val
n  id     
34 a     1
22 b     2

甚至，

d.join(keep.set_index(['id', 'val']), how='inner')

         n
id val    
a  1    34
b  2    22

大熊猫：切片具有多个索引的Multindex

3 个答案: