Question

我需要从自定义日志格式解析响应时间，以便它可以通过Logstash管道传递给弹性对象。

示例日志条目为：

2018-11-19 23:40:00-0500 avg:30.5ms max:135ms min:6.61ms reqs:20 rsps:20 errs:0 maxcon:3 99th:135ms 95th:134ms 90th:111ms 75th:22.6ms 50th:15.6ms heap:36.7% load:1.43/0.75/0.60 cpu:26.3%

平均，最大，最小可以是ns，us，ms或s格式。我从以下开始：

%{TIMESTAMP_ISO8601:timestamp} avg:%{NUMBER:avg}ms

当然，它不适用于ns等，因此我需要类似的东西：

%{TIMESTAMP_ISO8601:timestamp} avg:%{NUMBER:avg}(ns|us|ms|s)

但是，我将丢失信息，因为我必须按值的比例来表示ms。因此ns乘以1e6，ms-> 1e3，ms-> 1，s-> 1e-3。

解决该问题的最佳方法是什么？

Answer 1

好的，所以我终于找到了解决方案。首先对grok模式进行如下更改：

%{TIMESTAMP_ISO8601:timestamp} avg:%{NUMBER:avg:float}(?<avgUnit>[unm]?s)

这在事件' avg '和' avgUnit '中给了我们两个元素，可以将这些值传递给由插件执行的ruby脚本：脚本读为流：

# filter runs for every event
# # return the list of events to be passed forward
# # returning empty list is equivalent to event.cancel
def filter(event)
  #convert operates on event
  convert(event ,"maxUnit", "max")
  convert(event, "minUnit", "min")
  convert(event, "avgUnit", "avg")
  convert(event, "99thUnit", "99th")
  return [event]
end

def convert(event, unitField, valueField)
  if event.get(valueField).nil?
    event.tag("__#{valueField}__not_found")
    return [event]
  end

  if event.get(unitField).nil?
    event.tag("__#{unitField}_not_found")
    return [event]
  end

  unit = event.get(unitField)
  value = event.get(valueField)
  fieldName = "#{valueField}InMs"
  case unit
  when "ns"
    event.set(fieldName, value / 1.0e6)
  when "us"
    event.set(fieldName, value / 1.0e3)
  when "ms"
    event.set(fieldName, value)
  when "s"
    event.set(fieldName, value * 1.0e3)
  else
    event.tag("__not_supported_unit_#{unit}")
  end
  return [event]
end

管道必须配置为在匹配后包含脚本：

grok {
  match => {
    "message" => ["%{TIMESTAMP_ISO8601:tstamp} avg:%{NUMBER:avg:float}(?<avgUnit>[unm]?s)]
  }
}
ruby {
  path => "script.rb"
}

用于ns，us，ms或s中自定义响应时间的Grok模式-Logstash

1 个答案: