MetricBeat - Kafka的consumergroup metricset不发送任何数据?

时间:2017-04-03 12:09:36

标签: elasticsearch kibana metrics metricbeat

我已经运行了ZooKeeper和单个Kafka代理,我希望通过MetricBeat获取指标,使用ElasticSearch对其进行索引并使用Kibana进行显示。

但是,MetricBeat只能从class Migration(migrations.Migration): dependencies = [ ('meeting', '0003_meeting_proposal'), ] operations = [ migrations.AlterField( model_name='meeting', name='manager', field=models.ForeignKey(verbose_name='Manager', blank=True, to=settings.AUTH_USER_MODEL, null=True), ), ] 指标集获取数据,而且没有任何内容来自partition指标集。

由于consumergroup模块在​​kafka中被定义为期刊,它应该自己发送一些数据,而不仅仅是等待用户交互(f.exam。 - 写入主题)? 为了确保自己,我尝试创建消费者群体,从主题中编写和使用,但metricbeat.yml metricset仍然没有收集数据。

consumergroupconsumergroupmetricbeat.template.json中定义。

虽然metricbeat.template-es2x.json已被完全注释掉,但这是我的metricbeat.full.yml kafka模块定义:

metricbeat.yml

在MetricBeat的- module: kafka metricsets: ["partition", "consumergroup"] enabled: true period: 10s hosts: ["localhost:9092"] client_id: metricbeat1 retries: 3 backoff: 250ms topics: [] 目录中,这样的行显示:

/logs

使用ZooKeeper的INFO Non-zero metrics in the last 30s: libbeat.es.published_and_acked_events=109 libbeat.es.publish.write_bytes=88050 libbeat.publisher.messages_in_worker_queues=109 libbeat.es.call_count.PublishEvents=5 fetches.kafka-partition.events=106 fetches.kafka-consumergroup.success=2 libbeat.publisher.published_events=109 libbeat.es.publish.read_bytes=2701 fetches.kafka-partition.success=2 fetches.zookeeper-mntr.events=3 fetches.zookeeper-mntr.success=3 和Kafka的mntr,我可以看到partitionevents=值,但success=只有consumergroup。看起来没有事件被解雇。

在Kibana中可以正确显示

successpartition数据,但缺少mntr

存储在ElasticSearch中的数据无法用肉眼读取,有一些内部字符串用于目录名称,而日志中不包含任何有用的信息。

有人可以帮助我理解发生了什么并修复它(可能是MetricBeat)将数据发送到ElasticSearch吗?谢谢:))

1 个答案:

答案 0 :(得分:0)

您需要让活跃的消费者在主题之外消费,才能生成consumergroup指标集的事件。