破案了....

1. 报not retrying deletion 异常
2. 版本:kafka_2.11-2.0.0
3. 删除前在执行重分配,但是失败了,强制停止数据迁移,手动删除了节点/admin/reassign_partitions
4. 再次重新删除提示异常Topic test is already marked for deletion
5. 所有Broker均在线
6. delete.topic.enable=true
7. 检查了每个Broker都没有副本被删除,甚至也没有被标记为--delete

1. not retrying deletion
2. Topic test is already marked for deletion

问题在于为什么没有执行删除呢？

所以下一个突破口就在于

通过源码我们知道,出现了这个异常表示的是：

当前这个topic不符合重试删除的条件

1. 在删除队列topicsToBeDeleted里面；这个队列是从zk节点/amin/delete_topics获取的数据

2. 当前还未开始对该Topic进行删除; 判定条件是没有副本处于开始删除的状态「ReplicaDeletionStarted」(当然如果delete.topic.enable=false这条肯定满足)

3. 主题没有被标记为不符合删除条件;  不符合删除条件的都保存在topicsIneligibleForDeletion

1. /amin/delete_topics 节点下面有数据, 线索排除
2. 让对方查询了Deletion started for replicas这个日志,日志表示的是哪些副本状态变更成「开始删除」 ,日志有查询到如下
   
   ‍‍‍‍‍‍

   

   
   然后让查询Dead Replicas (%s) found for topic %s (这个表示的是哪些副本离线了) 也查询到如下
   
   

前面2个说完了,接着说一下topicsIneligibleForDeletion到底是什么,什么情况下才会放到这里面来呢？

Controller初始化的时候判断条件

1. 数据正在迁移中 判断数据是否在迁移中是通过判断topic的是否存在要新增或者删除的副本, 查询/brokers/topics/{topicName}节点中有没有这两个属性值
   
   

   

   
   

2. topic副本所在Broker有宕机导致的副本不在线

3. 副本所在的数据目录log.dirs存在脱机磁盘

1. 发起的StopReplica 请求返回异常,加入不符合删除条件
2. 删除的过程中,发现该Topic 有副本重分配的操作 则加入不符合删除条件
3. 删除的过程,有副本下线了,则加入不符合删除条件
4. 开始执行副本重分配的操作, 则加入不符合删除条件

1. 确保  delete.topic.enable=true ;配置文件查询
2. 确保当前该topic没有进行 「副本重分配」 , 查询zk节点/admin/reassign_partitions的值是否有该topic、或者 节点/brokers/topics/{topicName}节点里面的属性adding_replicas、removing_replicas有没有值
3. 确保所有副本所属Broker均在线
4. 确保副本均在线, (Broker在线并且log.dirs没有脱机), 搜日志"Dead Replicas " 关键字查询到哪些副本异常

留下悬念, 下期再见!

一图全解kafka在zookeeper中的数据结构

2021-09-06

听说你还在傻傻的关闭服务器去改配置？(附视频)

2021-08-30

这可能是kafka的一个小bug.....

2021-08-25

万字长文解析kafka删除Topic流程领导再也不用担心我排查生产环境问题了(附教学视频,)

2021-08-16