过滤流利的问题

时间:2018-08-20 12:57:44

标签: apache-kafka udp fluentd

我正在通过负载均衡器接收数据到我的Kafka集群(3个节点)。 除了我需要的nginx日志消息外,负载平衡器还向我发送了ping命令,以查看kafka节点是否仍然存在。 这些“ ping”在我的Kafka主题中显示为:

{"message":"A10\u0000"}

我一直试图在fluentd配置文件中过滤掉这些消息,但是看来我做对了。

这是我流利的配置的一部分(部分):

<source>
  @type udp
  <parse>
    @type none
  </parse>
  port 11514
  bind 0.0.0.0
  tag trb-login
</source>

<filter A10>
  @type grep
  @log_level debug
  <exclude>
    key message
    pattern A10
  </exclude>
</filter>

还尝试了其他几种模式的正则表达式,例如^ A10,^ A10 $,^ A10 *。 甚至尝试了模式(A10 \ u0000)的全文,并带有不同数量的反斜杠。 没有什么让我过滤掉这条线... (顺便说一句:@log_level调试也不执行任何操作...。)

我的fluentd版本是1.2.2

我在这里使用正确的车辆(过滤器)吗? 还是应该使用解析器? 有什么想法吗?

1 个答案:

答案 0 :(得分:0)

尝试以下配置。

  <filter>
    @type grep
    <exclude>
      key message
      pattern /^A10/
    </exclude>
  </filter>