Spark流saveAsTextFiles函数

时间:2015-02-06 22:08:33

标签: streaming apache-spark

如何申请saveAsTextFiles(prefix,[suffix])
我有这个:

        JavaDStream<String> hashTags = statuses
            .filter(new Function<String, Boolean>() {
                public Boolean call(String word) {
                    return word.contains("#");
                }
            });

当我写hashTags.print()它的工作并且我在终端中接收数据时,我要做的是将这些数据保存在带有java的文本文件中。

3 个答案:

答案 0 :(得分:3)

请尝试以下代码:

hashTags.dstream().saveAsTextFiles("myoutput","txt");

答案 1 :(得分:0)

不确定你的问题是什么......但试试这个:

  1. 从原始数据源创建RDD

    rdd2 = rdd1.filter(...)

  2. rdd2.saveAsTextFile(...)

答案 2 :(得分:0)

saveAsTextFile函数只能由rdd spark实现。与你的代码相关,它将是这样的:

JavaDStream<String> hashTags = statuses
 .filter(new Function<String, Boolean>() {
        public Boolean call(String word) {
        return word.contains("#");
        }
  });
 hashTags.saveAsTextFile("location.txt");

抱歉,如果我错了..