Matlab中的决策树

时间:2009-12-25 03:56:26

标签: matlab machine-learning decision-tree

我在Matlab中看到了帮助,但他们提供了一个示例,但没有解释如何使用'classregtree'函数中的参数。任何帮助解释'classregtree'与其参数的使用将不胜感激。

1 个答案:

答案 0 :(得分:34)

函数classregtree的文档页面不言自明......

让我们回顾一下分类树模型的一些最常见的参数:

  • x :数据矩阵,行是实例,cols是预测属性
  • y :列向量,每个实例的类标签
  • 分类:指定哪些属性是离散类型(而不是连续的)
  • 方法:是否生成分类或回归树(取决于类类型)
  • 名称:为属性
  • 指定名称
  • 修剪:启用/禁用缩减错误修剪
  • minparent / minleaf :允许指定节点中的最小实例数(如果要进一步拆分)
  • nvartosample :在随机树中使用(考虑在每个节点随机选择K个属性)
  • 权重:指定加权实例
  • 费用:指定费用矩阵(各种错误的罚款)
  • splitcriterion :用于在每次拆分时选择最佳属性的标准。我只熟悉Gini指数,它是信息增益标准的一种变体。
  • priorprob :明确指定先前的课程概率,而不是根据培训数据计算

一个完整的例子来说明这个过程:

%# load data
load carsmall

%# construct predicting attributes and target class
vars = {'MPG' 'Cylinders' 'Horsepower' 'Model_Year'};
x = [MPG Cylinders Horsepower Model_Year];  %# mixed continous/discrete data
y = cellstr(Origin);                        %# class labels

%# train classification decision tree
t = classregtree(x, y, 'method','classification', 'names',vars, ...
                'categorical',[2 4], 'prune','off');
view(t)

%# test
yPredicted = eval(t, x);
cm = confusionmat(y,yPredicted);           %# confusion matrix
N = sum(cm(:));
err = ( N-sum(diag(cm)) ) / N;             %# testing error

%# prune tree to avoid overfitting
tt = prune(t, 'level',3);
view(tt)

%# predict a new unseen instance
inst = [33 4 78 NaN];
prediction = eval(tt, inst)    %# pred = 'Japan'

tree


更新

上述classregtree类已过时,并被R2011a中的ClassificationTreeRegressionTree类取代(请参阅fitctreefitrtree函数,new在R2014a)。

以下是使用新函数/类的更新示例:

t = fitctree(x, y, 'PredictorNames',vars, ...
    'CategoricalPredictors',{'Cylinders', 'Model_Year'}, 'Prune','off');
view(t, 'mode','graph')

y_hat = predict(t, x);
cm = confusionmat(y,y_hat);

tt = prune(t, 'Level',3);
view(tt)

predict(tt, [33 4 78 NaN])