We can use --conf spark.app.country=US
to send parameters to source code in spark submit shell command. But for configurations like oracle.net.tns_admin
and java.security.egd
they do not start with spark. So, how do you send these parameters?
With out using extraJavaOptions can I send these as I do not want to send these like env parameters
答案 0 :(得分:0)
Spark conf
参数是专门为Spark配置(否则可能会放在spark-defaults.conf
中的键)设计的。
不要与泛型属性一起使用(尽管可以在自定义配置中使用spark
前缀,只要它不与实际的Spark配置冲突即可)。
如果您想提供通用配置,则可以使用特定于您选择的语言的Spark独立实用程序。