我们已经在我们的 Kubernetes 集群中使用社区掌舵图表设置了完整的 Prometheus 堆栈 - Prometheus/Grafana/Alertmanager/Node Explorer/Blackbox 导出器。监控堆栈部署在其自己的命名空间中,我们的主要软件(由微服务组成)部署在默认命名空间中。警报运行良好,但是黑盒导出器没有正确抓取指标(我猜)并且 FIRING 定期误报警报。我们使用最后一个来探测我们的微服务 HTTP 活性/就绪端点。
我与问题相关的配置(在 values.yaml 中)如下所示:
- alert: InstanceDown
expr: up == 0
for: 5m
annotations:
title: 'Instance {{ $labels.instance }} down'
description: '{{ $labels.instance }} of job {{ $labels.job }} has been down for more than 5 minutes.'
- alert: ExporterIsDown
expr: up{job="prometheus-blackbox-exporter"} == 0
for: 5m
labels:
severity: warning
annotations:
summary: "Blackbox exporter is down"
description: "Blackbox exporter is down or not being scraped correctly"
...
...
...
extraScrapeConfigs: |
- job_name: 'prometheus-blackbox-exporter'
metrics_path: /probe
params:
module: [http_2xx]
static_configs:
- targets:
- http://service1.default.svc.cluster.local:8082/actuator/health/liveness
- http://service2.default.svc.cluster.local:8081/actuator/health/liveness
- http://service3.default.svc.cluster.local:8080/actuator/health/liveness
relabel_configs:
- source_labels: [__address__]
target_label: __param_target
- source_labels: [__param_target]
target_label: instance
- target_label: __address__
replacement: prometheus-blackbox-exporter:9115
这 2 个警报每小时触发一次,但此时端点 100% 可达。
我们使用默认的 prometheus-blackbox-exporter/values.yaml 文件:
config:
modules:
http_2xx:
prober: http
timeout: 5s
http:
valid_http_versions: ["HTTP/1.1", "HTTP/2.0"]
no_follow_redirects: false
preferred_ip_protocol: "ip4"
邮件相应地看起来像这样:
5] Firing
Labels
alertname = InstanceDown
instance = http://service1.default.svc.cluster.local:8082/actuator/health/liveness
job = prometheus-blackbox-exporter
severity = critical
另一种电子邮件
Labels
alertname = ExporterIsDown
instance = http://service1.default.svc.cluster.local:8082/actuator/health/liveness
job = prometheus-blackbox-exporter
severity = warning
Annotations
description = Blackbox exporter is down or not being scraped correctly
summary = Blackbox exporter is down
我注意到的另一件奇怪的事情是,在 Prometheus UI 中,我没有看到任何 probe_* 指标,如下所示 https://lapee79.github.io/en/article/monitoring-http-using-blackbox-exporter/ 不确定我们做错了什么或错过了什么,但收到数百封误报电子邮件非常烦人。
答案 0 :(得分:0)
回答我自己的问题。我好像输入了:
replacement: prometheus-blackbox-exporter:9115
但它必须是服务名称:
replacement: stage-prometheus-blackbox-exporter:9115
根据文档:
replacement: localhost:9115 # blackbox exporter 的真实主机名:port。对于 Windows 和 macOS 替换为 - host.docker.internal:9115
对于 Kubernetes,虽然它应该是 blackbox-exporter 的服务名称,但没有很好的记录。或者至少我没有在任何地方找到这个。
获取服务:
kubectl get svc -l app.kubernetes.io/name=prometheus-blackbox-exporter