Logstash Dissect问题

时间:2019-07-01 20:39:57

标签: elasticsearch logstash logstash-grok

在解剖ELK堆栈中的以下文本Blob时遇到一些严重问题

这是字段-

INFO [2019-06-20 10:37:42,734] 
com.something.something.something.information.core.LoggingPiracyReporter: 
Informational request: ip_address="1.1.1.1" domain_name="domain.com" 
some_random_id="HrmwldM4DQNXoQF3AnYosJ0Mtig=" 
random_id_2="Isl/eC4ERnoLVEBMXYtWeMjwqkSKA2MPSsDnGHe4EzE=" number=1000 
timestamp=1561027064 valid_token_present=true everything_ok=true 
[Http/1.1] [8.8.8.8, 8.8.8.8, 8.8.8.8]

我目前有以下内容-

dissect { mapping => { "message" => '%{} ip_address="%{ip}" domain_name="% 
{name}" some_random_id="%{some_random_id}" random_id_2="%{random_id_2}" 
number="%{number}"%{}' } }

如果我删除数字,这似乎在数字字段上中断了(尽管会发出警告,但可以正常工作并在我的基巴纳语中显示这些字段)

谁能建议一种获取IP地址/域some_random_id / random_id_2以及[http / 1.1]块的方法。

1 个答案:

答案 0 :(得分:0)

您提供的日志中不存在映射中%{number}周围的引号,这会破坏您的过滤条件。

使用此配置:

dissect { 
    mapping => { 
        "message" => '%{} ip_address="%{ip}" domain_name="%{name}" some_random_id="%{some_random_id}" random_id_2="%{random_id_2}" number=%{number} timestamp=%{timestamp} valid_token_present=%{valid} everything_ok=%{ok} [%{http}]'
    } 
}

我得到这个结果:

{
  "ok": "true",
  "random_id_2": "Isl/eC4ERnoLVEBMXYtWeMjwqkSKA2MPSsDnGHe4EzE=",
  "message": "INFO [2019-06-20 10:37:42,734] com.something.something.something.information.core.LoggingPiracyReporter: Informational request: ip_address=\"1.1.1.1\" domain_name=\"domain.com\" some_random_id=\"HrmwldM4DQNXoQF3AnYosJ0Mtig=\" random_id_2=\"Isl/eC4ERnoLVEBMXYtWeMjwqkSKA2MPSsDnGHe4EzE=\" number=1000 timestamp=1561027064 valid_token_present=true everything_ok=true [Http/1.1] [8.8.8.8, 8.8.8.8, 8.8.8.8]\r",
  "ip": "1.1.1.1",
  "http": "Http/1.1",
  "name": "domain.com",
  "valid": "true",
  "some_random_id": "HrmwldM4DQNXoQF3AnYosJ0Mtig=",
  "timestamp": "1561027064",
  "number": "1000"
}