使用Spark写入AWS SQS队列

时间:2017-06-15 06:47:40

标签: scala apache-spark amazon-sqs

有没有办法使用库从Spark流式传输数据到Amazon SQS队列?

Spark包中没有列出任何内容 - https://spark-packages.org/

我谷歌搜索了一下,但没有发现任何事情。

有什么想法吗?

2 个答案:

答案 0 :(得分:2)

一个想法是使用基于Alpakka's SQS connector构建的Akka Streams

答案 1 :(得分:0)

我写了一个小库来将数据帧写入 SQS

https://github.com/fabiogouw/spark-aws-messaging