向量线性回归

Question

我有两个向量：

X - 通用维度 N 的输入向量

Y - X (N)

相同维度的输出向量

这些向量通过以下方式相关：

Y = FX

其中F 是线性变换，但未知。 潜在地，我可以构建一个包含大量 X 和 Y 的数据集。有没有办法通过线性回归/神经网络找到F？ 向量大小还没有定义，但是已经相当大了（超过1000个元素）。

谁能帮我找到一些关于如何使用机器学习解决这个问题的参考资料？ 我已经在寻找多元线性回归，但它指向的是多变量而不是向量。

Answer 1

据我所知，

Y = AX + epsilon（正态分布的 epsilon）

正是线性回归的方程。 Epsilon 主要代表经验收集数据情况下的测量误差。

所以我认为这应该通过线性回归来解决

https://heartbeat.fritz.ai/implementing-multiple-linear-regression-using-sklearn-43b3d3f2fe8b

Answer 2

我认为您遇到的问题比您想的要简单得多。你有一个线性回归问题，只观察到一个特征（如果我理解正确的话）。它是线性的，因为正如你所说，F 是一个线性函数，所以你不需要求助于神经网络来估计它。

您正在寻找的估计 F 只是 Y/(X^TY)，假设向量是列。如果您需要证明这一点，一般情况下的详细解决方案（您有多个特征，因此 X 是矩阵），您可以查看 Understanding Machine Learning - From Theory to Algorithms，第 123-125 页。