使用log4j.xml配置Spark日志记录

时间:2016-12-17 21:56:35

标签: xml logging apache-spark log4j asyncappender

我猜这是一个愚蠢的问题,但我无法在任何地方找到答案。

我可以使用log4j.xml配置spark中的日志记录吗?

在提到的spark documentation中,您可以使用log4j.properties配置日志记录,我希望使用log4j.xml来获得更高级的log4j功能,例如async appender。我的工作将以oozie安排的纱线(CDH)集群模式运行。我意识到在使用[result]

的任何解决方案中都有不良需求

1 个答案:

答案 0 :(得分:5)

您可以将spark.executor.extraJavaOptions设置为添加-Dlog4j.configuration=log4j.xml并将log4j.xml文件包含在worker的类路径中(捆绑在应用程序jar中或添加到{{1}附带的文件中) })。