使用某些指标导出器+ Prometheus + Grafana监视日志文件

Question

我需要监视非常不同的日志文件以查找错误，成功状态等。我需要使用Prometheus获取相应的指标并在Grafana中显示并在其上设置一些警报。普罗米修斯+格拉法纳是好的我已经使用它们与不同的出口商如node_exporter或mysql_exporter等。在新的Grafana 4.x中提醒也很有效。

但是我找到合适的导出器/程序可以分析日志文件＆＃34;飞行＆＃34;并从中提取指标。

到目前为止，我试过了：

• mtail（https://github.com/google/mtail） - 工作但现有版本无法轻松监控更多文件 - 一般情况下它无法将特定的mtail程序（分析收据）绑定到某些特定的日志文件+我无法轻松地将日志文件名添加到标签中
• grok_exporter（https://github.com/fstab/grok_exporter） - 工作但我只能提取有限的信息+一个实例只能监控一个日志文件，这意味着我必须启动更多实例导出更多端口并在prometheus中配置所有实例 - 这会造成太多新的失败点
• 流利的prometheus导出器（https://github.com/kazegusuri/fluent-plugin-prometheus） - 工作但看起来我只能提取非常简单的指标而且我无法对日志文件中的行进行任何高级正则表达式分析

这里是否有人有一个真正运行的解决方案，用于使用＆＃34;某些导出器＆＃34;从日志文件监控高级指标。 +普罗米修斯+格拉法娜？或者代替出口商一些程序，我可以使用Prometheus推送网关获取结果。感谢。

Answer 1

看看Telegraf。它确实使用输入插件logparser和tail来支持拖尾日志。要将指标导出为prometheus端点，请使用prometheus_client输出插件。您也可以申请快速聚合。我发现配置多个日志文件比grok_exporter或mtail

更简单

Answer 2

这是目前将日志数据输入普罗米修斯的3个答案。

您还可以考虑获取生成日志的任何内容以直接公开Prometheus指标。

Answer 3

尝试 prometheus-python-exporter 并在 python 中编写自定义导出器，grepping 日志文件中您想要的任何内容，然后公开所需的指标。有几个教程可以帮助您 yoy