我猜这是一个愚蠢的问题,但我无法在任何地方找到答案。
我可以使用log4j.xml配置spark中的日志记录吗?
在提到的spark documentation中,您可以使用log4j.properties配置日志记录,我希望使用log4j.xml来获得更高级的log4j功能,例如async appender。我的工作将以oozie安排的纱线(CDH)集群模式运行。我意识到在使用[result]
答案 0 :(得分:5)
您可以将spark.executor.extraJavaOptions
设置为添加-Dlog4j.configuration=log4j.xml
并将log4j.xml文件包含在worker的类路径中(捆绑在应用程序jar中或添加到{{1}附带的文件中) })。