使用Burrow进行Kafka监控

时间:2016-07-18 02:36:30

标签: apache-kafka lag kafka-consumer-api consumer

使用Burrow监视Kafka时

1)主题分区中给定消费者群体的Burrow开始和结束偏移是什么意思?我找不到任何关于此的文件。

匹配的卡夫卡术语是什么?卡夫卡术语:最后提交的偏移量,当前偏移量,高水位标记偏移量,记录结束偏移量。 Burrow的开始和结束偏移图是什么?它是Kafka Current Offset和kafka Highwater mark offset吗?

例如。

http://localhost:8000/v2/kafka/local/consumer/MyGroup-1-4/lag {“error”:false,“message”:“返回消费者群组状态”,“状态”:{“群集”:“本地”,“群组”:“MyGroup-1-4”,“状态”:“ERR” “完成”:假的, “分区”:[{ “主题”: “MyTopicTest-1”, “分区”:1, “状态”: “OK”, “开始”:{ “抵消”:28,“时间戳“:1468769616468,” 滞后 “:0},” 结束 “:{” 偏移量 “:34,” 时间戳 “:1468805045000,” 滞后 “:0}},{” 主题 “:” MyTopicTest-1" , “分区” :3, “状态”: “STOP”, “开始”:{ “偏移量”:32, “时间戳”:1468803763000, “滞后”:0}, “结束”:{ “偏移量”:32, “时间戳”: 1468804303000, “滞后”:0}},{ “主题”: “MyTopicTest-1”, “分区”:4 “状态”: “OK”, “启动”:{ “偏移量”:32, “时间戳”: 1468804003000, “滞后”:0}, “结束”:{ “偏移量”:33, “时间戳”:1468804783000, “滞后”:0}},{ “主题”: “MyTopicTest-1”, “分区”:5 “状态”: “STOP”, “开始”:{ “偏移量”:32, “时间戳”:1468803763000, “滞后”:0}, “结束”:{ “偏移量”:32, “时间戳”:1468804303000, “滞后”:0}},{ “主题”: “MyTopicTest-1”, “分区”:6中, “状态”: “OK”, “启动”:{ “偏移量”:33, “时间戳”:1468804423000, “滞后”:0}, “结束”:{ “偏移量”:34, “时间戳”:1468805045000, “滞后”:0}},{ “主题”:“MyTopicTest- 1" , “分区”:7, “状态”: “OK”, “启动”:{ “偏移量”:27, “时间戳”:1468769387995, “滞后”:0}, “结束”:{ “偏移量”: 33, “时间戳”:1468804783000, “滞后”:0}},{ “主题”: “MyTopicTest-1”, “分区”:9 “状态”: “OK”, “启动”:{ “偏移量”: 27, “时间戳”:1468769433946, “滞后”:0}, “结束”:{ “偏移量”:33, “时间戳”:1468804783000, “滞后”:0}}], “partition_count”:10, “maxlag” :NULL, “totallag”:0}, “请求”:{ “URL”: “/ V2 /卡夫卡/本地/消费者/ MyGroup的-1-4 /滞后”, “宿主”: “****”,”簇 “:” 本地”, “基团”: “MyGroup的-1-4”, “主题”: “”}}

2)某些状态标记为已停止。将状态标记为STOPPED的挖洞规则是: 如果现在的时间与最近的偏移时间之间的差异大于窗口中最近的偏移量和最旧的偏移量之间的差异,则消费者处于ERROR状态,并且分区被标记为STOPPED 。但是,如果消费者偏移量和分区的当前代理偏移量相等,则不认为该分区出错。

什么是“现在的时间”?是延迟请求发送到Burrow的时间

1 个答案:

答案 0 :(得分:1)

1)主题分区中给定使用者组的Burrow开始和结束偏移是什么意思?我找不到任何关于此的文件。
这两个偏移意味着 logcheck评估窗口中的开始和结束偏移(消费者承诺的偏移)。默认窗口将存储10个偏移,用于评估消费者滞后。 请参考下图和链接 Burrow: Kafka Consumer Monitoring Reinvented enter image description here

2,什么是“现在的时间”?这是延迟请求发送到Burrow的时间吗?
“现在时间”表示当前的“滞后检查间隔”。您可以在Example 5中获得更详细的示例。

  

存储的第一个偏移量与最后一个偏移量之间的时间差   存储的偏移量是540秒,与现在之间的时间差   并且存储的最后一个偏移量是660秒。消费者已经停止了   提交抵消,这意味着它已经失败或已经停止。