我正在尝试使用Spark 1.6构建机器学习程序
我已经使用以下设置启动了Spark shell:
spark-shell --driver-class-path sqljdbc_6.0 / enu / sqljdbc42.jar --driver-memory 25G --executor-memory 30G --num-executors 180 --conf spark.driver.maxResultSize = 0 --conf spark.ui.port = 4042 --conf spark.default.parallelism = 100 --conf spark.sql.shuffle.partitions = 1000`
我的代码一直有效,直到我尝试预测/使用模型。 执行此代码后:
scala> val predictionAndLabel = test.map(p => (model.predict(p.features), p.label))
我收到此错误消息:
/ usr / bin / spark-shell:第41行:33686已被杀害 " $ FWDIR" / bin / spark-submit --class org.apache.spark.repl.Main --name" Spark shell" " $ @"
我希望有人可以帮助我,因为我不知道如何让这段代码顺利运行!
以下是完整错误跟踪的链接。 https://app.box.com/s/w247yaoaiuogqot2zr76qjbwr9rzeb7b