需要转换RDD,转换中有几个步骤。
一种选择是将所有步骤放在一个功能中:
rdd.map {x =>
x.field1 = // some logic
x.field2 = // some logic
x.field3 = // some logic
x
}
以上问题是:
另一种选择如下:
val transformedRdd = rdd.map(function1).map(function2).map(function3)
这既解决了以前的问题。但是,它有效吗?它有什么不同:
val rdd1 = rdd.map(function1)
val rdd2 = rdd1.map(function2)
val rdd3 = rdd2.map(function)
由于