通过kafka加入多个日志?

时间:2018-01-03 20:46:08

标签: apache-kafka

我有两种类型的日志...

  1. Http" GET"日志。存储UUID,原始HTTP请求+总处理时间。 (存储在"日志"主题,未键入)
  2. 来自应用程序的事件/命令日志。存储UUID +请求1生成的事件(存储在"事件"主题,有密钥)
  3. 加入这些家伙的最佳方式是什么?我知道有各种各样的平台可以做到这一点......

    1. 我首先想的是我需要阅读" log"主题解析它并将其存储回"解析"主题与正确的密钥。
    2. 加入"活动" "解析"的主题主题。
    3. 事件/命令(#2日志)也可以在几天后出现(但大多数是在一分钟或两分钟内即时)。

1 个答案:

答案 0 :(得分:1)

加入的目的是什么?是推动进一步处理还是分析?

由于您已经在Apache Kafka中拥有数据,我建议您使用Kafka Streams API和/或KSQL。 KSQL运行在Kafka Streams之上。您可以使用其中任何一个在主题之间加入。

您也可以使用KSQL执行rekey主题等操作。