为什么Kafka重量轻?

时间:2018-07-19 17:12:38

标签: apache-kafka streaming spark-streaming apache-nifi apache-kafka-connect

我一直在与kafka connect,Spark流式传输,Nifi和kafka一起用于流式传输数据。

我知道,不同于其他技术,kafka connect不是独立的应用程序,而是kafka的工具。

在分布式模式下,所有技术均通过基础任务或线程实现并行性。是什么让kafka在处理kafka时变得高效,为什么它被称为轻量级?

1 个答案:

答案 0 :(得分:2)

它高效且轻巧,因为它使用内置的Kafka协议,并且不需要YARN之类的外部系统。虽然在Mesos / Kubernetes / Docker中部署Connect可能更好/更容易,但这不是必需的

Kafka核心开发人员还维护connect API,而不是只希望简单地集成到另一个工具中的人。例如,上次我检查时,NiFi无法访问Kafka消息时间戳。与使用Confluent认证连接器相比,在其他工具中处理Avro Schema Registry似乎是事后的想法