回归中局部和全局基函数之间的区别是什么?

时间:2012-04-10 18:43:16

标签: machine-learning regression

对于具有一些基函数的回归,我读到高斯基函数是局部的,而多项式基函数是全局的。这是什么意思?

谢谢

2 个答案:

答案 0 :(得分:4)

高斯以一定值为中心,当你远离它时逐渐减小到0。相反,多项式在整个范围内延伸。

这意味着高斯将模拟数据的局部特征(如凹凸或山谷),而多项式将模拟数据中的全局模式(例如,整体向下或向上趋势)。

答案 1 :(得分:2)

本地基函数(您通常也会看到称为紧致支持的基函数)仅在特定时间间隔内基本上不为零。在近似/回归中使用的此类函数的示例是B样条,小波等。另一方面,多项式在其根部除了零之外都是非零的。考虑使用单项式基础的最小二乘回归曲线 - 您得到的vandermonde矩阵将不会呈现任何类型的结构 - 如果x = 0,则元素只能为零。现在假设您使用具有固定结的BSpline曲线尝试相同的问题。现在因为基函数是局部的,你的矩阵将被绑定 - 每一行将包含零项,因为基函数的效果仅存在于某个区间。