转换JavaRDD <arraylist <t>＆gt;到JavaRDD <t>

Question

是否有使用Apache-Spark的Java API将JavaRDD<ArrayList<T>>转换为JavaRDD<T>的直接方式？

JavaPairRDD<NullWritable, ArrayList<Record>> baseRDD = sc.newAPIHadoopFile(args[2], InputFormat2.class, NullWritable.class,ArrayList.class, conf);  
JavaRDD<ArrayList<Record>> mapLines1 = baseRDD.values();

我想将JavaRDD<ArrayList<Record>>转换为JavaRDD<Record>。

Answer 1

您可以简单地flatMap：

rdd.flatMap(new FlatMapFunction<ArrayList<Record>, Record>() {
  @Override
  public Iterable<Record> call(ArrayList<Record> records) {
    return records;
  }
});