HDP集群中有3台kafka机器
kafka01
kafka02
kafka03
kafka version - 0.10.0.2.6
每台kafka机器(kafka03)的磁盘都带有18T
和
default.replication.factor=3
最后一台kafka机器释放了磁盘(磁盘运行不正常,我们需要更换它)
所以我们更换了磁盘,然后再次在其上创建文件系统并再次创建主题
但是-众所周知,在从主题中删除kafka数据之前,我们需要删除/var/kafka/kafka-logs
然后安全地更换磁盘
并非如此,因为突然的磁盘起皱,我们没有删除主题
目前,kafka经纪人服务在一段时间后陷入了困境,我们认为这是因为在更换磁盘之前未删除主题
有关此案的任何建议吗?
示例如何删除主题-PlR_TGE_FDS(我们没有删除),以及另外23个未删除的主题
/usr/hdp/current/kafka-broker/bin/kafka-topics.sh --zookeeper zookeper_server01:2181 --delete --topic PlR_TGE_FDS
答案 0 :(得分:1)
您是否为集群中的每个代理使用单个磁盘?
万一磁盘崩溃,Kafka代理应检测到该磁盘并关闭。 更换损坏的磁盘后,只需重新启动您的代理,它就应该复制其他代理的所有数据,然后再将领导层交给他。
我不明白在磁盘磁盘出现故障的情况下为什么要删除该主题,复制的重点是什么?我在想什么吗?
[1] How to handle disk failures in Kafka? - Hortonworks
[2] Disks and Filesystem - Kafka Documentation