使用spark-submit
运行样本时,输出如下所示:
17/01/01 13:29:19 INFO DAGScheduler: Job 5 finished: collect at /path/to/sample.py:187, took 0.082592 s
4.0
17/01/01 13:29:19 INFO SparkContext: Invoking stop() from shutdown hook
17/01/01 13:29:19 INFO SparkUI: Stopped Spark web UI at http://<IP>:4040
17/01/01 13:29:19 INFO MapOutputTrackerMasterEndpoint: MapOutputTrackerMasterEndpoint stopped!
17/01/01 13:29:19 INFO MemoryStore: MemoryStore cleared
17/01/01 13:29:19 INFO BlockManager: BlockManager stopped
答案,即4.0
是唯一的相关信息。
讨论
grep
上的Job
可以发出。 spark-submit
是否原生支持仅显示相关信息的问题。 This documentation已被咨询过,但似乎缺乏这样的选择。