熊猫:类别dtype和过滤器

时间:2017-02-16 08:02:12

标签: python pandas filter categorical-data

使用pandas 0.18.1,我在过滤dtypecategory的列时意识到了不同的行为。这是一个最小的例子。

import pandas as pd
import numpy as np

l = np.random.randint(1, 4, 50)
df = pd.DataFrame(dict(c_type=l, i_type=l))
df['c_type'] = df.c_type.astype('category')

df.info()

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 50 entries, 0 to 49
Data columns (total 2 columns):
c_type    50 non-null category
i_type    50 non-null int64
dtypes: category(1), int64(1)
memory usage: 554.0 bytes

过滤出整数类型列的一个值导致

df[df.i_type.isin([1, 2])].i_type.value_counts()

2    20
1    17
Name: i_type, dtype: int64

但是对类别类型列的相同过滤会将值过滤为条目

df[df.c_type.isin([1, 2])].c_type.value_counts()

2    20
1    17
3     0
Name: c_type, dtype: int64

虽然过滤器有效,但这种行为对我来说似乎很不寻常。例如,可以使用过滤器从pivot_table函数中排除将来的列,在处理category时需要额外的过滤器。

这是预期的行为吗?

1 个答案:

答案 0 :(得分:2)

如果检查categorical docs

,这是预期的行为
  

Series.value_counts()等系列方法将使用所有类别,即使数据中不存在某些类别:

In [100]: s = pd.Series(pd.Categorical(["a","b","c","c"], categories=["c","a","b","d"]))

In [101]: s.value_counts()
Out[101]: 
c    2
b    1
a    1
d    0
dtype: int64

因此,如果按5过滤(值不存在),请为每个类别获取0

print (df[df.c_type.isin([5])].c_type.value_counts())
3    0
2    0
1    0
Name: c_type, dtype: int64