TypeError:first()缺少1个必需的位置参数:Pyspark中DecisionTree.trainClassifier中的'offset'

时间:2019-04-02 16:55:23

标签: pyspark decision-tree azure-databricks

我已经在Azure databricks上的pyspark中编写了简单的代码(遵循此链接 decision tree in pyspark-)

%python
x='x'
z='y'
data = pd.DataFrame({'a':[1,2,3,41,2,6,2,3,56,1,2,5,1,2,45,1,3,2], 'b':[x,z,x,x,z,x,z,x,x,x,z,z,x,z,z,x,x,x]})

# Train a DecisionTree model.
model = DecisionTree.trainClassifier(data, numClasses=2, categoricalFeaturesInfo={},impurity='gini', maxDepth=5, maxBins=32)

我将参数保留为默认值。运行时出现错误-

TypeError:first()缺少1个必需的位置参数:“ offset”

我不确定此错误是指哪个参数,我还需要在分类器中指定我的因变量?

enter image description here

1 个答案:

答案 0 :(得分:2)

trainClassifier的第一个参数为RDD。在这里,您提供的数据是熊猫数据框。您会看到此错误,因为first()是一种可以应用于spark对象的方法。

  

根据documentation,   训练数据:LabeledPoint的 RDD 。   标签应采用值{0,1,…,numClasses-1}。

因此,将data转换为RDD,就可以了。