我已经运行了ZooKeeper和单个Kafka代理,我希望通过MetricBeat获取指标,使用ElasticSearch对其进行索引并使用Kibana进行显示。
但是,MetricBeat只能从class Migration(migrations.Migration):
dependencies = [
('meeting', '0003_meeting_proposal'),
]
operations = [
migrations.AlterField(
model_name='meeting',
name='manager',
field=models.ForeignKey(verbose_name='Manager', blank=True, to=settings.AUTH_USER_MODEL, null=True),
),
]
指标集获取数据,而且没有任何内容来自partition
指标集。
由于consumergroup
模块在kafka
中被定义为期刊,它应该自己发送一些数据,而不仅仅是等待用户交互(f.exam。 - 写入主题)?
为了确保自己,我尝试创建消费者群体,从主题中编写和使用,但metricbeat.yml
metricset仍然没有收集数据。
consumergroup
在consumergroup
和metricbeat.template.json
中定义。
虽然metricbeat.template-es2x.json
已被完全注释掉,但这是我的metricbeat.full.yml
kafka模块定义:
metricbeat.yml
在MetricBeat的- module: kafka
metricsets: ["partition", "consumergroup"]
enabled: true
period: 10s
hosts: ["localhost:9092"]
client_id: metricbeat1
retries: 3
backoff: 250ms
topics: []
目录中,这样的行显示:
/logs
使用ZooKeeper的INFO Non-zero metrics in the last 30s:
libbeat.es.published_and_acked_events=109
libbeat.es.publish.write_bytes=88050
libbeat.publisher.messages_in_worker_queues=109
libbeat.es.call_count.PublishEvents=5
fetches.kafka-partition.events=106
fetches.kafka-consumergroup.success=2
libbeat.publisher.published_events=109
libbeat.es.publish.read_bytes=2701
fetches.kafka-partition.success=2
fetches.zookeeper-mntr.events=3
fetches.zookeeper-mntr.success=3
和Kafka的mntr
,我可以看到partition
和events=
值,但success=
只有consumergroup
。看起来没有事件被解雇。
success
和partition
数据,但缺少mntr
。
存储在ElasticSearch中的数据无法用肉眼读取,有一些内部字符串用于目录名称,而日志中不包含任何有用的信息。
有人可以帮助我理解发生了什么并修复它(可能是MetricBeat)将数据发送到ElasticSearch吗?谢谢:))
答案 0 :(得分:0)
您需要让活跃的消费者在主题之外消费,才能生成consumergroup
指标集的事件。