LightGBM中的袋装工作原理

时间:2018-11-30 07:33:36

标签: machine-learning xgboost lightgbm

在lightGBM模型中,有2个与套袋相关的参数

bagging_fraction
bagging_freq (frequency for bagging
              0 means disable bagging; k means perform bagging at every k 
              iteration
              Note: to enable bagging, bagging_fraction should be set to 
              value smaller than 1.0 as well)

我可以在gdbt中找到有关此装袋功能的更多详细说明。那有人给我更详细的解释吗?

1 个答案:

答案 0 :(得分:2)

该代码执行文档中所说的内容-它对大小为bagging_fraction * N_train_examples的训练示例的子集进行采样。在此子集上执行第i树的训练。可以针对每棵树(即每次迭代)或在训练每棵bagging_freq树之后进行此采样。

例如,bagging_fraction=0.5, bagging_freq=10意味着新的0.5*N_train_examples条目的采样将每10次迭代