Pyspark将RowMatrix转换为DataFrame或RDD

时间:2016-11-17 15:42:11

标签: python apache-spark pyspark spark-dataframe apache-spark-ml

我有一个方形的pyspark RowMatrix,如下所示:

>>> row_mat.numRows()
100
>>> row_mat.numCols()
100
>>> row_mat.rows.first()
SparseVector(100, {0: 0.0, 1: 0.0018, 2: 0.1562, 3: 0.0342...})

我想运行pyspark.ml.feature.PCA,但其fit()方法只需DataFrame。有没有办法将此RowMatrix转换为DataFrame

或者有更好的方法吗?

1 个答案:

答案 0 :(得分:2)

使用:

row_mat.rows.map(lambda x: (x, )).toDF()