Python Scikit随机森林回归错误

时间:2013-01-09 09:19:18

标签: python machine-learning scipy scikit-learn random-forest

我正在尝试从csv加载训练和测试数据,在scikit / sklearn中运行随机森林回归器,然后预测测试文件的输出。

TrainLoanData.csv文件包含5列;第一列是输出,接下来的4列是功能。 TestLoanData.csv包含4列 - 功能。

当我运行代码时,我收到错误:

    predicted_probs = ["%f" % x[1] for x in predicted_probs]
IndexError: invalid index to scalar variable.

这是什么意思?

这是我的代码:

import numpy, scipy, sklearn, csv_io //csv_io from https://raw.github.com/benhamner/BioResponse/master/Benchmarks/csv_io.py
from sklearn import datasets
from sklearn.ensemble import RandomForestRegressor

def main():
    #read in the training file
    train = csv_io.read_data("TrainLoanData.csv")
    #set the training responses
    target = [x[0] for x in train]
    #set the training features
    train = [x[1:] for x in train]
    #read in the test file
    realtest = csv_io.read_data("TestLoanData.csv")

    # random forest code
    rf = RandomForestRegressor(n_estimators=10, min_samples_split=2, n_jobs=-1)
    # fit the training data
    print('fitting the model')
    rf.fit(train, target)
    # run model against test data
    predicted_probs = rf.predict(realtest)
    print predicted_probs
    predicted_probs = ["%f" % x[1] for x in predicted_probs]
    csv_io.write_delimited_file("random_forest_solution.csv", predicted_probs)

main()

3 个答案:

答案 0 :(得分:5)

RandomForestRegressor的返回值是一个浮点数组:

In [3]: rf = RandomForestRegressor(n_estimators=10, min_samples_split=2, n_jobs=-1)

In [4]: rf.fit([[1,2,3],[4,5,6]],[-1,1])
Out[4]: 
RandomForestRegressor(bootstrap=True, compute_importances=False,
           criterion='mse', max_depth=None, max_features='auto',
           min_density=0.1, min_samples_leaf=1, min_samples_split=2,
           n_estimators=10, n_jobs=-1, oob_score=False,
           random_state=<mtrand.RandomState object at 0x7fd894d59528>,
           verbose=0)

In [5]: rf.predict([1,2,3])
Out[5]: array([-0.6])

In [6]: rf.predict([[1,2,3],[4,5,6]])
Out[6]: array([-0.6,  0.4])

所以你试图像(-0.6)[1]那样索引一个浮点数,这是不可能的。

作为旁注,模型不会返回概率。

答案 1 :(得分:2)

首先,让样本数据重现并调试您的问题总是有帮助的。如果它们太大或太秘密,你可以提取它们中有趣的部分。

变量predicted_probs的内容似乎没有您期望的那样。它似乎是整数的列表(或数组),这也是我所期望的。

在sklearn中,X.train()方法总是采用trainingdata及其相应的类(通常是整数或字符串)。然后X.predict()方法仅获取验证数据并返回预测结果,即,对于验证数据中的每个集合一个类(再次是整数或字符串)。

如果你想知道训练分类器的准确度有多好,你不能只训练和预测,但你必须进行交叉验证,即重复训练和验证,每次检查有多少预测是正确的。 sklean有一个很好的文档,我相信你会找到相应的部分。如果没有,请问我。

答案 2 :(得分:1)

尝试使用numpy的“genfromtxt”代替“csv_io.read_data”进行数据集加载 - 它会自动将csv中的数据转换为numpy数组。阅读Getting Started With Python For Data Science文章对您有用......