我们可以使用Excel外化参数吗?

时间:2017-10-24 09:23:26

标签: apache-spark

我有很多参数需要外部化我们可以使用Excel如果是,如何在spark中调用excel file提交其他理想方法。

火花提交

spark-submit --class "com.syntel.spark.sparkDVT" --master yarn --jars /root/config-1.3.1.jar,mysql-connector-java-5.1.42.jar --files /root/testex.xls --executor-memory 512m --executor-cores 1 --num-executors 5 /root/sparkdvtparametres_2.11-1.0.jar /root/files/output/extra_in_src /root/files/output/extra_in_dest /root/files/output/misMatch /root/files/output/DestHeader /root/files/output/SrcHeader /root/files/output/Summary /root/files/output/Summary_TimeTaken /root/files/output/TC01_ColumnStats /root/files/output/TC01_MisMatchHeaders dev

错误:Exception in thread "main" java.io.FileNotFoundException: --files (No such file or directory) at java.io.FileInputStream.open0(Native Method)

我在excel testex.xls --files /root/testex.xls中有外部化连接参数如何在spark-submit中调用excel。我在本地进行硬编码路径时,如何在spark-submit中调用excel文件正常工作

1 个答案:

答案 0 :(得分:0)

我添加Apache POI jars in the class path

后工作正常