Question

我正在使用Spark RDD。我需要追加/连接两个Set类型的RDD。

scala> var ek: RDD[Set[Int]] = sc.parallelize(Seq(Set(7)))
ek: org.apache.spark.rdd.RDD[Set[Int]] = ParallelCollectionRDD[31] at parallelize at <console>:32

scala> val vi: RDD[Set[Int]] = sc.parallelize(Seq(Set(3,5)))
vi: org.apache.spark.rdd.RDD[Set[Int]] = ParallelCollectionRDD[32] at parallelize at <console>:32

scala> val z = vi.union(ek)
z: org.apache.spark.rdd.RDD[Set[Int]] = UnionRDD[34] at union at <console>:36

scala> z.collect
res15: Array[Set[Int]] = Array(Set(3, 5), Set(7))

scala> val t = visited++ek
t: org.apache.spark.rdd.RDD[Set[Int]] = UnionRDD[40] at $plus$plus at <console>:36

scala> t.collect
res30: Array[Set[Int]] = Array(Set(3, 5), Set(7))

我尝试过使用两个运算符union和++。但是，它不会产生预期的结果。

Array(Set(3, 5), Set(7))

预期结果应如下：

scala> val u = Set(3,5)
u: scala.collection.immutable.Set[Int] = Set(3, 5)

scala> val o = Set(7)
o: scala.collection.immutable.Set[Int] = Set(7)

scala> u.union(o)
res28: scala.collection.immutable.Set[Int] = Set(3, 5, 7)

任何人都可以指导我如何做到这一点

Answer 1

您正在将集合应用于集合的列表（seq），这就是元素是完整集合而不是元素的原因。尝试使用：

var ek = sc.parallelize(Set(7).toSeq)
val vi = sc.parallelize(Set(3,5).toSeq)
val z = vi.union(ek)

在Apache Spark中追加/连接两个类型为Set的RDD

1 个答案: