Pandas分类数据类型的行为不符合预期

时间:2015-04-23 16:31:54

标签: python pandas categorical-data ordinal

我有下面的Pandas(版本0.15.2)数据框。我希望在创建code之后将Categorical列设为df类型的有序变量,如下所示。

import pandas as pd
df = pd.DataFrame({'id' : range(1,9),
                    'code' : ['one', 'one', 'two', 'three',
                                'two', 'three', 'one', 'two'],
                    'amount' : np.random.randn(8)},  columns= ['id','code','amount'])

df.code = df.code.astype('category')
>> 0      one
>> 1      one
>> 2      two
>> 3    three
>> 4      two
>> 5    three
>> 6      one
>> 7      two
>> Name: code, dtype: category
>> Categories (3, object): [one < three < two]

所以这可行,但只是部分。我无法强加订单。下面的所有功能(在documentation webpage上都有说明)会为我抛出语法错误:

df.code = df.code.astype('category', categories=['one','two','three'], ordered=True)
>> error: astype() got an unexpected keyword argument 'categories'

甚至:

df.code.ordered
>> error: 'Series' object has no attribute 'ordered'
df.code.categories
>> error: 'Series' object has no attribute 'categories'

1)这很烦人。我甚至无法获得Categorical变量的类别(级别)。我做错了什么或网络文档是否过时/不一致?

2)另外,您知道类型Categorical是否具有距离概念,即Pandas是否知道基于上面的排序,one更接近{ {1}}比two?我计划将其用于(dis)相似度计算。

2 个答案:

答案 0 :(得分:2)

以下是一个简短的示例,其中包含一个有序的分类变量,以及(对我而言)使用rank()(作为一种距离度量)的惊人结果:

df = pd.DataFrame({ 'code':['one','two','three','one'], 'num':[1,2,3,1] }) 
df.code = df.code.astype('category', categories=['one','two','three'], ordered=True)

    code  num
0    one    1
1    two    2
2  three    3
3    one    1

df.sort('code')

    code  num
0    one    1
3    one    1
1    two    2
2  three    3

所以sort()按指定的顺序按预期工作。但是rank()没有做我想象的事情,它按字典顺序排列并忽略了分类变量的排序。

 df.sort('code').rank()

   code  num
0   1.5  1.5
3   1.5  1.5
1   4.0  3.0
2   3.0  4.0

所有这些都可能是一个更长的问题:也许你只想要一个整数类型?我的意思是,你可以在排序后组成某种距离函数,但最终这比使用标准int或float所做的工作要多得多(如果你看看如何{{1处理有序的分类。

编辑添加:以上部分内容可能不适用于pandas 15.2,但我相信您仍然可以执行此操作来指定顺序:

rank()

默认情况下15.2中会发生什么(据我所知)默认情况下ordered会为True(但在版本16.0中为False),但是顺序将是字典而不是构造函数中指定的。我不确定,并且我在16.0工作,所以你必须只观察你的版本的行为。请记住,分类仍然相当新......

答案 1 :(得分:1)

我认为您无法指定订单,pd.factorize似乎提供了该选项,但未实施,请参阅here

根据您的描述,您正在寻找将code变量编码为序数变量,而不是分类变量,即{{3 }}

如果您认为'one''two'之间的差异等于'two''three'之间的差异。我想您可以将它们编码为int s (0, 1, 2, 3 ...)

如果您使用slightly different,则会有patsy