我在我的一个应用程序中使用spark streaming。试图更改应用程序的已完成批次计数,但到目前为止都没有成功。默认情况下,完成的批次计数为1000.可以根据火花应用程序自定义此值吗?
如果是这样,任何人都可以帮助我了解设置此值的位置吗?
谢谢!
答案 0 :(得分:0)
根据spark文档,这是spark.streaming.ui.retainedBatches
属性,默认为1000。请在此处参考文档https://spark.apache.org/docs/latest/configuration.html#spark-ui