受到this answer的启发以及对this question缺乏简单回答的问题,我发现自己写了一些语法糖,让生活更容易按MultiIndex级别进行过滤。
def _filter_series(x, level_name, filter_by):
"""
Filter a pd.Series or pd.DataFrame x by `filter_by` on the MultiIndex level
`level_name`
Uses `pd.Index.get_level_values()` in the background. `filter_by` is either
a string or an iterable.
"""
if isinstance(x, pd.Series) or isinstance(x, pd.DataFrame):
if type(filter_by) is str:
filter_by = [filter_by]
index = x.index.get_level_values(level_name).isin(filter_by)
return x[index]
else:
print "Not a pandas object"
但是如果我知道熊猫开发团队(我开始慢慢地!)已经有了一个很好的方法来做到这一点,我只是不知道它到底是什么!
我是对的吗?
答案 0 :(得分:4)
使用master / 0.14中的新多索引切片器(即将发布)非常容易,请参阅here
有一个公开的问题可以让这种语法变得更容易(不难做到),请参阅here
例如:df.loc[{ 'third' : ['C1','C3'] }]
我认为是合理的
这是你如何做到的(需要master / 0.14):
In [2]: def mklbl(prefix,n):
...: return ["%s%s" % (prefix,i) for i in range(n)]
...:
In [11]: index = MultiIndex.from_product([mklbl('A',4),
mklbl('B',2),
mklbl('C',4),
mklbl('D',2)],names=['first','second','third','fourth'])
In [12]: columns = ['value']
In [13]: df = DataFrame(np.arange(len(index)*len(columns)).reshape((len(index),len(columns))),index=index,columns=columns).sortlevel()
In [14]: df
Out[14]:
value
first second third fourth
A0 B0 C0 D0 0
D1 1
C1 D0 2
D1 3
C2 D0 4
D1 5
C3 D0 6
D1 7
B1 C0 D0 8
D1 9
C1 D0 10
D1 11
C2 D0 12
D1 13
C3 D0 14
D1 15
A1 B0 C0 D0 16
D1 17
C1 D0 18
D1 19
C2 D0 20
D1 21
C3 D0 22
D1 23
B1 C0 D0 24
D1 25
C1 D0 26
D1 27
C2 D0 28
D1 29
C3 D0 30
D1 31
A2 B0 C0 D0 32
D1 33
C1 D0 34
D1 35
C2 D0 36
D1 37
C3 D0 38
D1 39
B1 C0 D0 40
D1 41
C1 D0 42
D1 43
C2 D0 44
D1 45
C3 D0 46
D1 47
A3 B0 C0 D0 48
D1 49
C1 D0 50
D1 51
C2 D0 52
D1 53
C3 D0 54
D1 55
B1 C0 D0 56
D1 57
C1 D0 58
D1 59
...
[64 rows x 1 columns]
在所有级别创建索引器,选择所有条目
In [15]: indexer = [slice(None)]*len(df.index.names)
让我们关心的关卡只有我们关心的条目
In [16]: indexer[df.index.names.index('third')] = ['C1','C3']
选择它(重要的是这是一个元组!)
In [18]: df.loc[tuple(indexer),:]
Out[18]:
value
first second third fourth
A0 B0 C1 D0 2
D1 3
C3 D0 6
D1 7
B1 C1 D0 10
D1 11
C3 D0 14
D1 15
A1 B0 C1 D0 18
D1 19
C3 D0 22
D1 23
B1 C1 D0 26
D1 27
C3 D0 30
D1 31
A2 B0 C1 D0 34
D1 35
C3 D0 38
D1 39
B1 C1 D0 42
D1 43
C3 D0 46
D1 47
A3 B0 C1 D0 50
D1 51
C3 D0 54
D1 55
B1 C1 D0 58
D1 59
C3 D0 62
D1 63
[32 rows x 1 columns]
答案 1 :(得分:4)
我实际上赞成了joris的回答......但不幸的是,他提到的重构并没有在0.14发生,也没有发生在0.17中。所以暂时让我建议一个快速而肮脏的解决方案(显然来自Jeff的一个):
def filter_by(df, constraints):
"""Filter MultiIndex by sublevels."""
indexer = [constraints[name] if name in constraints else slice(None)
for name in df.index.names]
return df.loc[tuple(indexer)] if len(df.shape) == 1 else df.loc[tuple(indexer),]
pd.Series.filter_by = filter_by
pd.DataFrame.filter_by = filter_by
......用作
df.filter_by({'level_name' : value})
其中value
确实可以是单个值,但也可以是列表,切片......
(未经过Panels和更高维度元素测试,但我确实希望它可以工作)
答案 2 :(得分:1)
你有filter
方法可以做这样的事情。例如,linked SO问题中提到的示例:
In [188]: df.filter(like='0630', axis=0)
Out[188]:
sales cogs net_pft
STK_ID RPT_Date
876 20060630 857483000 729541000 67157200
20070630 1146245000 1050808000 113468500
20080630 1932470000 1777010000 133756300
2254 20070630 501221000 289167000 118012200
此时过滤方法为refactored(即将推出的0.14),并且会添加level
关键字(因为现在如果相同的标签出现在不同级别,则会出现问题索引)。