XGBoost：为什么在XGBoost中列车错误减少时测试错误会增加？

Question

当我通过xgboost训练模型时，我发现＆＃34; eval-merror＆＃34;正在增加＆＃34; train-merror＆＃34;正在减少如下;是错误的吗？

enter image description here

Answer 1

你可能过度拟合。你尝试过设置early_stopping_rounds吗？一旦xgboost检测到验证错误正在增加，这将终止训练。

如果从第一次训练开始就出现这种情况，您可能需要尝试较小的学习率（称为eta）。

您可以在api参考中找到有关刚刚提到的参数的更多信息：http://xgboost.readthedocs.io/en/latest/python/python_api.html