如何将spark-submit的输出限制为相关信息?

时间:2017-01-01 12:38:06

标签: apache-spark spark-submit

使用spark-submit运行样本时,输出如下所示:

17/01/01 13:29:19 INFO DAGScheduler: Job 5 finished: collect at /path/to/sample.py:187, took 0.082592 s
4.0
17/01/01 13:29:19 INFO SparkContext: Invoking stop() from shutdown hook
17/01/01 13:29:19 INFO SparkUI: Stopped Spark web UI at http://<IP>:4040
17/01/01 13:29:19 INFO MapOutputTrackerMasterEndpoint: MapOutputTrackerMasterEndpoint stopped!
17/01/01 13:29:19 INFO MemoryStore: MemoryStore cleared
17/01/01 13:29:19 INFO BlockManager: BlockManager stopped

答案,即4.0是唯一的相关信息。

讨论

grep上的Job可以发出。 spark-submit是否原生支持仅显示相关信息的问题。 This documentation已被咨询过,但似乎缺乏这样的选择。

0 个答案:

没有答案