Kafka 1.0.0管理客户端无法使用EOFException创建主题

时间:2017-12-18 15:38:42

标签: scala apache-kafka

使用1.0.0 Kafka管理客户端我希望以编程方式在代理上创建一个主题。我碰巧使用Scala。我尝试使用以下代码在Kafka代理上创建主题或只是列出可用主题

import org.apache.kafka.clients.admin.{AdminClient, ListTopicsOptions, NewTopic}
import scala.collection.JavaConverters._

val zkServer = "localhost:2181"
val topic = "test1"

val zookeeperConnect = zkServer
val sessionTimeoutMs = 10 * 1000
val connectionTimeoutMs = 8 * 1000


val partitions = 1
val replication:Short = 1
val topicConfig = new Properties() // add per-topic configurations settings here

import org.apache.kafka.clients.admin.AdminClientConfig
val config = new Properties
config.put(AdminClientConfig.BOOTSTRAP_SERVERS_CONFIG, zkServer)
val admin = AdminClient.create(config)

val existing = admin.listTopics(new ListTopicsOptions().timeoutMs(500).listInternal(true))
val nms = existing.names()
nms.get().asScala.foreach(nm => println(nm)) // nms.get() fails

val newTopic = new NewTopic(topic, partitions, replication)
newTopic.configs(Map[String,String]().asJava)
val ret = admin.createTopics(List(newTopic).asJavaCollection)
ret.all().get() // Also fails
admin.close()

使用任一命令,ZooKeeper(3.4.10)端抛出EOFException并关闭连接。调试ZooKeeper端本身,似乎无法反序列化管理客户端发送的消息(它正在尝试读取的字节数不足)

是否有人能够使1.0.0 Kafka管理客户端用于创建或列出主题?

1 个答案:

答案 0 :(得分:2)

AdminClient直接连接到Kafka,不需要访问Zookeeper。

您需要将AdminClientConfig.BOOTSTRAP_SERVERS_CONFIG设置为指向您的Kafka代理(例如localhost:9092)而不是Zookeeper。