Question

我尝试使用spark中的columnSimilarities（）构建基于项目的协作过滤模型。使用columnsSimilarities（）之后，我想将原始列名称分配回Spark scala中的结果。

用于计算数据框上的columnSimilarities（）的可运行代码。

数据

// rdd
val rowsRdd: RDD[Row] = sc.parallelize(
  Seq(
    Row(2.0, 7.0, 1.0),
    Row(3.5, 2.5, 0.0),
    Row(7.0, 5.9, 0.0)
  )
)

// Schema  
val schema = new StructType()
  .add(StructField("item_1", DoubleType, true))
  .add(StructField("item_2", DoubleType, true))
  .add(StructField("item_3", DoubleType, true))

// Data frame  
val df = spark.createDataFrame(rowsRdd, schema)

计算该数据框上的columnSimilarities（）：

import org.apache.spark.ml.feature.VectorAssembler
import org.apache.spark.mllib.linalg.distributed.{MatrixEntry, CoordinateMatrix, RowMatrix}

val rows = new VectorAssembler().setInputCols(df.columns).setOutputCol("vs")
  .transform(df)
  .select("vs")
  .rdd

val items_mllib_vector = rows.map(_.getAs[org.apache.spark.ml.linalg.Vector](0))
                             .map(org.apache.spark.mllib.linalg.Vectors.fromML)
val mat = new RowMatrix(items_mllib_vector)
val simsPerfect = mat.columnSimilarities()


simsPerfect.entries.collect.mkString(", ")

输出：

res0: String = MatrixEntry(0,2,0.24759378423606918), MatrixEntry(1,2,0.7376189553526812), MatrixEntry(0,1,0.8355316482961213)

我从列中获取原始名称而不是该向量中的位置。

我尝试从df读取列名：

val names = df.columns

我的想法是将名称与该向量中的位置匹配，这些位置应该是相同的顺序，但我不知道如何使用余弦相似性将名称附加回该向量。

我很高兴任何建议!!

Answer 1

提取列名称（这是一个棘手的部分，因为它无法在闭包中进行评估）：

map

和simsPerfect.entries.map { case MatrixEntry(i, j, v) => (names(i.toInt), names(j.toInt), v) }条目：

{{1}}

在columnSimilarties（）之后获取列名称Spark scala

1 个答案: