使用Datastax Spark Cassandra Connector将PairDStram写入cassandra

时间:2015-03-20 18:09:23

标签: java cassandra apache-spark spark-streaming

我需要使用Java和Datastax Spark Cassandra Connector将我的过滤流的数据写入cassandra。

我关注了datastax java documentation

该文档解释了如何将RDD编写到cassandra,而不是如何编写Dstream。

我需要能够保存PairDStream并且我不知道该怎么做,因为所有示例都是用scala编写的。

我需要在java代码中使用scala编写以下代码:

val wc = stream.flatMap(_.split("\\s+"))
    .map(x => (x, 1))
    .reduceByKey(_ + _)
    .saveToCassandra("streaming_test", "words", SomeColumns("word", "count")) 

基本上我必须保存JavaPairDStream<String, Integer>

1 个答案:

答案 0 :(得分:2)

解决方案,以防有人寻找答案

要向Cassandra编写DStream或JavaDStream,需要导入:

import static com.datastax.spark.connector.japi.CassandraStreamingJavaUtil.*;

并使用javaFunctions(DStream<T> arg0)javaFunctions(JavaDStream<T> arg0)