kafka磁盘崩溃时该如何处理,以及如何在磁盘崩溃后删除旧主题

时间:2019-05-21 17:50:37

标签: hadoop apache-kafka

HDP集群中有3台kafka机器

kafka01
kafka02
kafka03

kafka version -     0.10.0.2.6

每台kafka机器(kafka03)的磁盘都带有18T

default.replication.factor=3

最后一台kafka机器释放了磁盘(磁盘运行不正常,我们需要更换它)

所以我们更换了磁盘,然后再次在其上创建文件系统并再次创建主题

但是-众所周知,在从主题中删除kafka数据之前,我们需要删除/var/kafka/kafka-logs

中的所有主题

然后安全地更换磁盘

并非如此,因为突然的磁盘起皱,我们没有删除主题

目前,kafka经纪人服务在一段时间后陷入了困境,我们认为这是因为在更换磁盘之前未删除主题

有关此案的任何建议吗?

示例如何删除主题-PlR_TGE_FDS(我们没有删除),以及另外23个未删除的主题

/usr/hdp/current/kafka-broker/bin/kafka-topics.sh --zookeeper zookeper_server01:2181 --delete --topic PlR_TGE_FDS

1 个答案:

答案 0 :(得分:1)

您是否为集群中的每个代理使用单个磁盘?

万一磁盘崩溃,Kafka代理应检测到该磁盘并关闭。 更换损坏的磁盘后,只需重新启动您的代理,它就应该复制其他代理的所有数据,然后再将领导层交给他。

我不明白在磁盘磁盘出现故障的情况下为什么要删除该主题,复制的重点是什么?我在想什么吗?

[1] How to handle disk failures in Kafka? - Hortonworks
[2] Disks and Filesystem - Kafka Documentation