scala中的分割线保持线的常见元素

时间:2016-11-04 21:58:02

标签: scala apache-spark apache-spark-sql spark-dataframe scala-collections

我试图以下列方式拆分我的数据文件。

1 1#1097#2321#2018
2 12#312#123#1211

所以我希望得到的RDD是:

1 1
1 1097
1 2321
1 2018
2 12
2 312
2 123

1 个答案:

答案 0 :(得分:1)

假设您已经将您的行作为RDD(并且输入中没有可能的错误,我将无法计算,因此您可以添加一些预验证/过滤):

lines.flatMap { case line =>
  val Array(head, other) = line.split(" ")
  other.split('#').map(o => head -> o)
}