Python线性回归模型(Pandas,statsmodels) - 值错误:endog exog矩阵大小不匹配

时间:2018-06-09 17:47:54

标签: python pandas linear-regression statsmodels

我的一个朋友向我询问了这个线性回归代码,我也无法解决它,所以现在这也是我的问题。

我们得到的错误: ValueError:endog和exog矩阵的大小不同

当我从ind_names中删除“Tech”时,它可以正常工作。这可能毫无意义,但为了消除语法错误的可能性,我尝试了这样做。

技术和金融行业标签在DataFrame中的分布不均匀,所以这可能导致尺寸不匹配?但我无法进一步调试,所以决定问你们。

对错误和解决方案的想法进行一些确认真的很不错。请在下面找到代码。

    #We have a portfolio constructed of 3 randomly generated factors (fac1, fac2, fac3). 
#Python code provides the following message 
#ValueError: The indices for endog and exog are not aligned

import pandas as pd
from numpy.random import rand
import numpy as np
import statsmodels.api as sm

fac1, fac2, fac3 = np.random.rand(3, 1000) #Generate  random factors

#Consider a collection of hypothetical stock portfolios
#Generate randomly 1000 tickers
import random; random.seed(0)
import string
N = 1000
def rands(n):
  choices = string.ascii_uppercase
  return ''.join([random.choice(choices) for _ in range(n)])


tickers = np.array([rands(5) for _ in range(N)])
ticker_subset = tickers.take(np.random.permutation(N)[:1000])

#Weighted sum of factors plus noise

port = pd.Series(0.7 * fac1 - 1.2 * fac2 + 0.3 * fac3 + rand(1000), index=ticker_subset)
factors = pd.DataFrame({'f1': fac1, 'f2': fac2, 'f3': fac3}, index=ticker_subset)

#Correlations between each factor and the portfolio 
#print(factors.corrwith(port))
factors1=sm.add_constant(factors)


#Calculate factor exposures using a regression estimated by OLS
#print(sm.OLS(np.asarray(port), np.asarray(factors1)).fit().params)

#Calculate the exposure on each industry
def beta_exposure(chunk, factors=None):
    return sm.OLS(np.asarray(chunk), np.asarray(factors)).fit().params


#Assume that we have only two industries – financial and tech

ind_names = np.array(['Financial', 'Tech'])
#Create a random industry classification 

sampler = np.random.randint(0, len(ind_names), N)
industries = pd.Series(ind_names[sampler], index=tickers, name='industry')
by_ind = port.groupby(industries)



exposures=by_ind.apply(beta_exposure, factors=factors1)
print(exposures)
#exposures.unstack()

#Determinate the exposures on each industry 

1 个答案:

答案 0 :(得分:2)

了解错误消息:

  

ValueError:endog和exog矩阵的大小不同

好的,还不错。内源基质和外源基质具有不同的大小。模块提供了这个page,它告诉内生是系统内的因素外生因素是其中的因素

一些调试

检查我们为阵列获取的形状。要做到这一点,我们需要拆开.shape参数的oneliner和print,或者打印每个参数的第一个。另外,注释抛出错误的行。所以,我们发现我们得到了:

chunk [490]
factor [1000    4]
chunk [510]
factor [1000    4]

哦!它就是。我们期待因素也被分块。它应该是[490 4]第一次和[510 4]第二次。注意:由于类别是随机分配的,因此每次都会有所不同。

所以基本上我们在这个功能中有太多的信息。我们可以使用块来查看要选择的因素,将因子过滤为那些因素,然后一切都会有效。

查看文档中的函数定义:

class statsmodels.regression.linear_model.OLS(endog, exog=None, missing='none', hasconst=None, **kwargs)

我们只是传递两个参数,其余的是可选的。让我们来看看我们正在经历的两个。

  

endog(类似数组) - 1-d内源响应变量。因变量。

     

exog(array-like) - 一个nobs x k数组,其中nobs是观察数,k是回归数...

啊,再次endogexogendog是1d数组。到目前为止,形状490非常好。 exog nobs?哦,它的观察次数。所以它是一个二维数组,在这种情况下,我们需要490形状4

此特定问题:

beta_exposure应该是:

def beta_exposure(chunk, factors=None):
    factors = factors.loc[factors.index.isin(chunk.index)]
    return sm.OLS(np.asarray(chunk), np.asarray(factors)).fit().params

问题在于您将beta_exposures应用于列表的每个部分(它是随机的,所以我们说Financial有490个元素,Tech有510个元素但是factors=factors1总是给出你有1000个值(groupby代码没有触及)。

请参阅http://www.statsmodels.org/dev/generated/statsmodels.regression.linear_model.OLS.htmlhttp://www.statsmodels.org/dev/endog_exog.html了解我用于研究此内容的参考资料。