Question

我使用patsy使用公式api为statsmodel拟合回归。

我的问题是我的设计矩阵是单数的，因为patsy创建（本地？）冗余的分类交互。

import patsy
import pandas as pd
data = [('y',[2,5,6]),
        ('c1',['a','a','b']),
        ('c2',['g','f','g'])]
df = pd.DataFrame.from_items(data)#([y,c1,c2],columns=['y','c1','c2'])
formula = "y ~C(c1):C(c2)-1"
y,X = patsy.dmatrices(formula,df,return_type='dataframe')
print (X)

C(c1)[a]:C(c2)[f]   C(c1)[b]:C(c2)[f]   C(c1)[a]:C(c2)[g]   C(c1)[b]:C(c2)[g]
0   0.0 0.0 1.0 0.0
1   1.0 0.0 0.0 0.0
2   0.0 0.0 0.0 1.0

我想排除第二列，因为当c1的值为b时，c2没有值f

Answer 1

Patsy将C(c1):C(c2)解释为“我想估算c1和c2值的每个组合的效果”。如果这些组合中的某些组合没有出现在你的数据中，那么它们就无法估算出来，所以给你一个奇异的矩阵至少可以指出问题...

如果您只想估算现有组合的效果，一种简单的方法是创建一个新变量，为c1和c2的每个组合设置不同的值。这样做的原因是，patsy会推断出可能值的集合恰好是实际出现的值 - 它无法知道b.f可能发生的事情：

In [1]: df["c1_and_c2"] = df["c1"] + "." + df["c2"]

In [2]: patsy.dmatrix("c1_and_c2 - 1", df)
Out[2]: 
DesignMatrix with shape (3, 3)
  c1_and_c2[a.f]  c1_and_c2[a.g]  c1_and_c2[b.g]
               0               1               0
               1               0               0
               0               0               1
  Terms:
    'c1_and_c2' (columns 0:3)

如何阻止patsy创建分类变量的冗余交互

1 个答案: