如何在线性回归中强制零拦截?

时间:2012-04-03 09:45:12

标签: python numpy scipy linear-regression

如果这个问题已经得到解答,我有点道歉,我已经看了一眼,找不到我想要的具体内容。

我有一些或多或少的形式

的线性数据
x = [0.1, 0.2, 0.4, 0.6, 0.8, 1.0, 2.0, 4.0, 6.0, 8.0, 10.0, 20.0, 40.0, 60.0, 80.0]
y = [0.50505332505407008, 1.1207373784533172, 2.1981844719020001, 3.1746209003398689, 4.2905482471260044, 6.2816226678076958, 11.073788414382639, 23.248479770546009, 32.120462301367183, 44.036117671229206, 54.009003143831116, 102.7077685684846, 185.72880217806673, 256.12183145545811, 301.97120103079675]

我正在使用scipy.optimize.leastsq来对此进行线性回归:

def lin_fit(x, y):
    '''Fits a linear fit of the form mx+b to the data'''
    fitfunc = lambda params, x: params[0] * x + params[1]    #create fitting function of form mx+b
    errfunc = lambda p, x, y: fitfunc(p, x) - y              #create error function for least squares fit

    init_a = 0.5                            #find initial value for a (gradient)
    init_b = min(y)                         #find initial value for b (y axis intersection)
    init_p = numpy.array((init_a, init_b))  #bundle initial values in initial parameters

    #calculate best fitting parameters (i.e. m and b) using the error function
    p1, success = scipy.optimize.leastsq(errfunc, init_p.copy(), args = (x, y))
    f = fitfunc(p1, x)          #create a fit with those parameters
    return p1, f    

它的工作效果很好(虽然我不确定scipy.optimize是否适合在这里使用,它可能有点超过顶部?)。

但是,由于数据点的位置,它不会给我0的y轴拦截。我知道在这种情况下它必须为零,if x = 0 than y = 0

我有什么方法可以强迫这个吗?

2 个答案:

答案 0 :(得分:30)

正如@AbhranilDas所提到的,只需使用线性方法。不需要像scipy.optimize.lstsq这样的非线性求解器。

通常,您使用numpy.polyfit来为数据拟合一行,但在这种情况下,您需要直接使用numpy.linalg.lstsq,因为您要将截距设置为零。

作为一个简单的例子:

import numpy as np
import matplotlib.pyplot as plt

x = np.array([0.1, 0.2, 0.4, 0.6, 0.8, 1.0, 2.0, 4.0, 6.0, 8.0, 10.0, 
              20.0, 40.0, 60.0, 80.0])

y = np.array([0.50505332505407008, 1.1207373784533172, 2.1981844719020001,
              3.1746209003398689, 4.2905482471260044, 6.2816226678076958,
              11.073788414382639, 23.248479770546009, 32.120462301367183, 
              44.036117671229206, 54.009003143831116, 102.7077685684846, 
              185.72880217806673, 256.12183145545811, 301.97120103079675])

# Our model is y = a * x, so things are quite simple, in this case...
# x needs to be a column vector instead of a 1D vector for this, however.
x = x[:,np.newaxis]
a, _, _, _ = np.linalg.lstsq(x, y)

plt.plot(x, y, 'bo')
plt.plot(x, a*x, 'r-')
plt.show()

enter image description here

答案 1 :(得分:9)

我不擅长这些模块,但我有一些统计经验,所以这就是我所看到的。您需要从

更改拟合函数
fitfunc = lambda params, x: params[0] * x + params[1]  

为:

fitfunc = lambda params, x: params[0] * x 

同时删除该行:

init_b = min(y) 

将下一行更改为:

init_p = numpy.array((init_a))

这应该摆脱产生y轴截距的第二个参数,并通过原点传递拟合线。在其余代码中,您可能需要进行一些小的更改。

但是,是的,如果您只是将第二个参数拉出来,我不确定这个模块是否会起作用。这取决于模块的内部工作原理是否可以接受此修改。例如,我不知道params,参数列表在哪里被初始化,所以我不知道这样做是否会改变它的长度。

顺便说一句,既然你提到过,我实际上认为这只是一种过度优化斜坡的方法。您可以稍微阅读线性回归并编写小代码,以便在一些背后的包络演算之后自己完成。这真的非常简单明了。事实上,我只做了一些计算,我猜优化的斜率只是<xy>/<x^2>,即x * y乘积的平均值除以x ^ 2的平均值。