每隔2小时就会杀死Spark Streaming

时间:2014-11-15 14:46:54

标签: apache-spark spark-streaming

当我检查工作日志并发现以下错误时,每隔2小时就会使用任何日志终止Spark Streaming应用程序:

14/11/15 13:53:24 INFO network.ConnectionManager: Removing ReceivingConnection to ConnectionManagerId(ip-xxxxxxxxx,38863)
14/11/15 13:53:24 INFO network.ConnectionManager: Removing SendingConnection to ConnectionManagerId(ip-xxxxxxxxx,38863)
14/11/15 13:53:24 ERROR network.SendingConnection: Exception while reading SendingConnection to ConnectionManagerI

我还将spark.cleaner.ttl值设置为10分钟,但没有运气。

1 个答案:

答案 0 :(得分:0)

也许流接收器已停止。 你在代码中使用这样的东西吗?     streamContext.stop(true,true);

如果流接收器停止并且您正在收听接收器,那么上下文也将停止。