为什么每当我刷新我的随机森林回归器时。 MSE和MAE有变化吗?为什么会有所不同并取决于什么?

时间:2019-07-19 16:09:11

标签: python machine-learning output random-forest

我正在使用jupyter笔记本,因此我可以尽可能频繁地刷新块以适合/预测/评估。每次刷新时,即使未重新整理训练数据,MSE / MAE / RMSE也会返回不同的值。为什么会这样?

我尝试查找问题,但这似乎无济于事,所以我想知道是由于我的代码还是缺乏理解

我经常刷新此块

rf1 = SklearnExtra(clf = RandomForestRegressor(), seed = Seed, params = tune)
rf1.fit(x_train, y_train)
evaluate(rf1, x_test, y_test)
print('Test MAPE '+ str(mean_absolute_percentage_error(rf1, y_test, x_test)))
def evaluate(model, test_features, test_labels):
    predictions = model.predict(test_features)
    errors = metrics.mean_absolute_error(test_labels, predictions)
    MSerrors = metrics.mean_squared_error(test_labels, predictions)
    RMSE = np.sqrt(metrics.mean_squared_error(test_labels, predictions))
    RMSLE = np.sqrt(np.mean(np.power(np.log1p(predictions) - np.log1p(test_labels), 2)))
    print('Model Perfomance')
    print('MAE Error: {:0.4f} degrees. '.format(errors))
    print('Average MSE Error: {:0.4f} degrees. '.format(MSerrors))
    print('Average RMS Error: {:0.4f} degrees. '.format(RMSE))
    print('Average RMSLE Error: {:0.4f} degrees. '.format(RMSLE))
    return 'end of test'
class SklearnExtra(object):
    def __init__(self, clf, seed = 0, params = None):
        params['random_state'] = seed
        self.clf = clf

    def train(self, x, y):
        self.clf.fit(x, y)

    def predict(self, x):
        return self.clf.predict(x)

    def fit(self, x, y):
        return self.clf.fit(x,y)

    def feature_importances(self, x, y):
        clf2 = self.clf.fit(x,y)
        return (clf2.feature_importances_)

    def name(self):
        return str(self.clf)
Test Data
Model Perfomance
MAE Error: 26.3329 degrees. 
Average MSE Error: 1950.4288 degrees. 
Average RMS Error: 44.1637 degrees. 
Average RMSLE Error: 0.3016 degrees. 
Test MAPE 24.11994617834992

#next refresh
Test Data
Model Perfomance
MAE Error: 29.7638 degrees. 
Average MSE Error: 2479.5202 degrees. 
Average RMS Error: 49.7948 degrees. 
Average RMSLE Error: 0.3129 degrees. 
Test MAPE 25.520876708239378

1 个答案:

答案 0 :(得分:1)

每棵树都建立在数据的随机部分(引导程序)和/或所有功能的子样本上,因此模型每次都不同。这是一个随机森林;-)

您可以使用RandomForestRegressor(bootstrap=False)进行引导抽样,但是每次从特征抽样中获得的结果仍然会略有不同。

但是,如果您希望每次都获得相同的结果,例如,可以将randon_state参数设置为固定值。 RandomForestRegressor(random_state=42)。 :-)

Here是Sycorax在CrossValidated上的一个很好的解释。