为什么线性回归被称为“线性”'?

时间:2015-08-10 10:28:52

标签: machine-learning linear-regression

只是一个愚蠢的怀疑,为什么它被称为线性'。是因为回归中使用的多项式函数的程度还是因为我们有1个输出来预测,或者是其他原因。我是ML的初学者。搜索谷歌无法找到答案。

4 个答案:

答案 0 :(得分:17)

线性回归称为线性回归,因为您将输出变量(我们称之为f(x))建模为输入和权重的线性组合(让我们称之为x和{分别为{1}}。即

w

从严格的数学角度来看,这些模型应该被称为仿射模型,因为存在偏差(f(x) = < w, x > + b = SUM w_i x_i + b 项,这不应该出现在线性变换中),但由于历史原因我们使用名称线性代替。

您可以在数据的非线性转换之上考虑线性回归,但这只是一个语义技巧,因为这是转换数据的线性回归,而不是数据本身(在数据项拟合回归不是线性的)。从数学的角度来看,保持线性是很重要的。无论你优化什么,所以就b而言。所以,如果你考虑

w

您仍然可以将其称为线性回归(因为它是f(x) = <w, g(x)> + b 的线性回归),但它不再是应用于w的线性回归,而是应用于x

答案 1 :(得分:3)

参考this回答我认为这是关于参数theta。即使Linear Regression上的wiki链接以以下语句开头:

  

给定n个统计单位的数据集,线性回归模型假设因变量yi与回归量xi的p向量之间的关系是线性的。

然而,经过几行后他们提到:

  

有时,其中一个回归量可能是另一个回归量或数据的非线性函数,如多项式回归和分段回归。只要模型在参数向量β中是线性的,模型就保持线性。

所以我猜线性不是x而是参数。

答案 2 :(得分:0)

绝对。线性回归之所以称为“线性回归”,并不是因为x或因变量相对于y或自变量是线性的,而是因为参数或theta是线性的。我们当然可以具有三次方或平方根或二次函数,但是由于theta如此,所以仍将其称为“线性”。

答案 3 :(得分:-2)

线性回归中的“线性”是指我们使用一条线来拟合数据的事实。期间。