我在分类问题中使用带有nnet方法的插入包,我想知道nnet中用于停止训练的停止标准是什么,以避免过度拟合。
我做了一些研究,我发现在RSNNS包中没有实施停止标准,但考虑将来的工作,请在此处查看:https://www.jstatsoft.org/index.php/jss/article/view/v046i07/v46i07.pdf
但是对于nnet软件包,我没有找到任何关于所使用的停止标准的信息,或者它是否使用了一个。所以,我的问题是。 nnet包中使用的停止标准是什么?
感谢!!!
答案 0 :(得分:2)
nnet包中使用的停止标准由abstol
函数的reltol
和nnet()
参数定义。
abstol
Stop if the fit criterion falls below abstol, indicating an essentially perfect fit.
reltol
Stop if the optimizer is unable to reduce the fit criterion by a factor of at least 1 - reltol.
(从https://cran.r-project.org/web/packages/nnet/nnet.pdf复制)
它们的默认值是:abstol = 1.0e-4; reltol = 1.0e-8
拟合标准是地面实况与网络输出之间的某种误差。它是迭代最小化的目标函数的一部分。
关于适合标准的问题有一个部分答案: https://stats.stackexchange.com/questions/156117/what-is-the-value-of-fitting-criterion-on-the-nnet-package-in-r