如何在火花流中更改已完成的批次?

时间:2018-02-14 20:03:34

标签: apache-spark spark-streaming

我在我的一个应用程序中使用spark streaming。试图更改应用程序的已完成批次计数,但到目前为止都没有成功。默认情况下,完成的批次计数为1000.可以根据火花应用程序自定义此值吗?

如果是这样,任何人都可以帮助我了解设置此值的位置吗?

谢谢!

1 个答案:

答案 0 :(得分:0)

根据spark文档,这是spark.streaming.ui.retainedBatches属性,默认为1000。请在此处参考文档https://spark.apache.org/docs/latest/configuration.html#spark-ui