Apache Nifi:将数据从REST加载到德鲁伊

时间:2017-07-14 10:54:49

标签: etl apache-nifi druid bigdata

我正在使用Apache NiFi。

将数据从REST API加载到Druid的正确方法是什么?

2 个答案:

答案 0 :(得分:1)

还没有针对德鲁伊的任何基于apache社区的连接器,但我们真的应该尽快制作一个。希望有人能尽快做出贡献。

答案 1 :(得分:1)

您有两个选择:

  1. 选项1一个简单的方法来解决这个问题,首先让NiFi转储 将数据转换为Kafka Queue然后指向Druid Realtime节点来提取数据 从Kafka Queue中获取实时索引数据。
  2. 选项2是将数据从NiFi引入Storm群集应用一些 如果需要,转换(例如Stream join ..)然后使用Tranquility 将数据推送到德鲁伊。
  3. 我不是NiFi专家,但我认为你总是需要像kafka这样的东西来缓冲事件,因为我不认为NiFi会提供缓冲队列(再次对这个说法不是100%肯定)。 / p>