模型架构和训练参数是什么意思?

时间:2020-03-09 17:33:23

标签: machine-learning

我正在研究一些机器学习方法,例如Python中的支持向量机,K最近邻和隔离林,但我对此有疑问,模型架构和有关这些方法的训练参数意味着什么?

2 个答案:

答案 0 :(得分:1)

当您指代神经网络时,我建议您使用术语模型架构。您可以想到像Lego Blocks这样的模型架构。有不同的大小(每个隐藏层中的单元数)和颜色(不同的层:LSTM,卷积,线性/密集等),可用于构建所需的任何简单到复杂的体系结构。

您提到的机器学习模型:SVM,k-NN,Isolation Forest是受监督的算法,可让您执行分类或回归。这里没有架构。但是,每种算法都采用不同的方法来解决该问题。例如,SVM旨在在N维空间( N =特征数量)中找到一个超平面,该超平面对数据点进行明显分类,而k-NN通过对其k的多次投票对数据点进行分类邻居。

有2种参数:模型参数和超参数。前者是在培训阶段学习的,后者必须在培训阶段之前设置。如果您的数据质量很好并且问题不是很复杂,那么您将在训练阶段通过优化算法学习正确的模型参数。但是,超参数是特定于问题的,并且在算法之间有所不同。例如,在SVM中,最重要的超参数之一是 C ,它是误差项的惩罚参数。它控制着平滑决策边界和正确分类训练点之间的折衷。

通常,选择默认的超参数不是一个好习惯,因此,我建议您执行超参数调整。这是link入门指南。

答案 1 :(得分:0)

好问题。模型体系结构就像建筑体系结构:您将哪些块放在一起来制造东西?例如,您是否制作了一个5层或2层的神经网络?每层有多少个神经元?

训练参数就像是对机器学习方式的细微调整。例如,您的树应该有几个分支?每个分支可以分裂多少次?

对于神经网络,您可以指定要训练多长时间。