一段时间后停止Spark Streaming中的流上下文

时间:2015-06-29 13:19:41

标签: stream apache-spark twitter4j spark-streaming

我构建了一个从Twitter接收DStreams的应用程序,停止Streaming上下文的唯一方法就是停止执行。我想知道是否有办法设置时间并终止流式套接字而不停止整个应用程序?

2 个答案:

答案 0 :(得分:7)

您可以使用

awaitTerminationOrTimeout(long)

如上一个答案中所述,或者您可以从其他线程手动停止流式上下文:

    // in the main thread
    awaitTermination(); // will wait forever or until the context is stopped

    // in another thread
    streamingContext.stop();

答案 1 :(得分:2)

您可以对streamingContext对象使用awaitTermination()方法等待指定的时间。请参阅this