我最近在Coursera ML课程中学习机器学习，并在学习cost function with regularization时突然出现了一些问题。 如果您有任何想法，请告诉我。
如果我有足够数量的训练数据，我认为正则化会降低准确性，因为该模型只能从训练集中获得高可靠性和广义输出，而无需正则化。如何判断我是否应该使用正规化？
假设我们有一个如下模型：w3 * x3 + w2 * x2 + w1 * x1 + w0，x3是特别导致过度拟合的特征;这意味着它有更多的异常值。在这种情况下，我认为the way of regularization有点不合理，因为它会影响每一个重量。你知道在这种情况下我可以使用哪种更好的方法吗？
选择lambda值的最佳方法是什么？我想最简单的方法是使用不同的lambda值进行多次学习，并比较他们的训练准确性。但是，当我们拥有大量的训练数据时，这绝对是低效的。我想知道你如何选择理想的lambda值。
感谢阅读！
答案 0 :(得分：0)
在评估验证数据模型之前，提出猜测是个坏主意。当您在问题中谈到“准确性”时，您指的是哪种准确度？在估计模型的优点时，列车设定精度不是很有用。通常，正规化对于许多ML算法族来说是理想的。在线性回归的情况下，绝对值得做。这里的问题只是它的数量，即lambda参数的值。此外，您可能想尝试L1而不是L2。阅读this。
在机器学习中，通常使用数据来回答这样的问题。尝试一个模型，研究它的行为方式，针对您观察到的问题尝试不同的解决方案。
请阅读：How to calculate the regularization parameter in linear regression
