Spark Streaming - 处于等待状态的批处理,app无所事事

时间:2015-08-31 15:16:51

标签: apache-spark spark-streaming

Spark Streaming UI中的waiting batches是什么意思?我开始使用自定义网络接收器,我可以看到以下数据:

Time since start: 25 minutes 42 seconds
Network receivers: 2
Batch interval: 1 second 
Processed batches: 0
Waiting batches: 1
Received records: 0
Processed records: 0 

接收器什么也没做。它还在等待#34;应用程序的真实状态是什么?里面发生了什么?我在文档中找不到任何内容。

enter image description here

1 个答案:

答案 0 :(得分:1)

我相信你的火花实际上正在做某事(可能需要很长时间?),因为等待批次的是实际正在处理的那些 - see this