Scala-java.lang.ArrayIndexOutOfBoundsException:1

时间:2017-07-25 06:18:41

标签: arrays scala

我正在尝试创建一个行[RDD]

val RowRDD =sc.textFile("InputFile.csv").map(x=>x.split(" ")).map(p=>Row(p(1),p(2)))

InputFile.csv是

spark 5 1
hadoop 7 1
flink 10 1

但是,当我运行我的应用程序时,错误显示

java.lang.ArrayIndexOutOfBoundsException: 1

很明显,' InputFile.csv'有3行,为什么会有错误?

1 个答案:

答案 0 :(得分:2)

我附上了我自己尝试在spark-shell中读取文件的屏幕截图;正如您可以看到的那样,在该代码上运行您的特定行应该没有问题。您很可能在整个代码中省略了其他一些行。我经常犯的一个错误是我引用命令行参数然后忘记在命令行上传递任何参数。如果您可以粘贴整个代码,则可能会被诊断出来。上面给出的一行是完全正确的。 spark-shell screenshot