我正在使用jupyter笔记本,因此我可以尽可能频繁地刷新块以适合/预测/评估。每次刷新时,即使未重新整理训练数据,MSE / MAE / RMSE也会返回不同的值。为什么会这样?
我尝试查找问题,但这似乎无济于事,所以我想知道是由于我的代码还是缺乏理解
我经常刷新此块
rf1 = SklearnExtra(clf = RandomForestRegressor(), seed = Seed, params = tune)
rf1.fit(x_train, y_train)
evaluate(rf1, x_test, y_test)
print('Test MAPE '+ str(mean_absolute_percentage_error(rf1, y_test, x_test)))
def evaluate(model, test_features, test_labels):
predictions = model.predict(test_features)
errors = metrics.mean_absolute_error(test_labels, predictions)
MSerrors = metrics.mean_squared_error(test_labels, predictions)
RMSE = np.sqrt(metrics.mean_squared_error(test_labels, predictions))
RMSLE = np.sqrt(np.mean(np.power(np.log1p(predictions) - np.log1p(test_labels), 2)))
print('Model Perfomance')
print('MAE Error: {:0.4f} degrees. '.format(errors))
print('Average MSE Error: {:0.4f} degrees. '.format(MSerrors))
print('Average RMS Error: {:0.4f} degrees. '.format(RMSE))
print('Average RMSLE Error: {:0.4f} degrees. '.format(RMSLE))
return 'end of test'
class SklearnExtra(object):
def __init__(self, clf, seed = 0, params = None):
params['random_state'] = seed
self.clf = clf
def train(self, x, y):
self.clf.fit(x, y)
def predict(self, x):
return self.clf.predict(x)
def fit(self, x, y):
return self.clf.fit(x,y)
def feature_importances(self, x, y):
clf2 = self.clf.fit(x,y)
return (clf2.feature_importances_)
def name(self):
return str(self.clf)
Test Data
Model Perfomance
MAE Error: 26.3329 degrees.
Average MSE Error: 1950.4288 degrees.
Average RMS Error: 44.1637 degrees.
Average RMSLE Error: 0.3016 degrees.
Test MAPE 24.11994617834992
#next refresh
Test Data
Model Perfomance
MAE Error: 29.7638 degrees.
Average MSE Error: 2479.5202 degrees.
Average RMS Error: 49.7948 degrees.
Average RMSLE Error: 0.3129 degrees.
Test MAPE 25.520876708239378
答案 0 :(得分:1)
每棵树都建立在数据的随机部分(引导程序)和/或所有功能的子样本上,因此模型每次都不同。这是一个随机森林;-)
您可以使用RandomForestRegressor(bootstrap=False)
进行引导抽样,但是每次从特征抽样中获得的结果仍然会略有不同。
但是,如果您希望每次都获得相同的结果,例如,可以将randon_state
参数设置为固定值。 RandomForestRegressor(random_state=42)
。 :-)
Here是Sycorax在CrossValidated上的一个很好的解释。