如何为从相同filebeat到logstash的不同日志使用不同的索引名

时间:2019-09-25 08:08:37

标签: elasticsearch logstash kibana filebeat

我已经设置了ELK的版本(7.3.1)。在其他VM上的filebeat(7.3.1)。 我在安装了Filebeat的VM上有多个日志。 我想为不同的日志使用不同的索引名称。 我尝试了一种不起作用的方法,配置文件如下

filebeat.yml

filebeat.inputs:
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG1/forecaster.log
  fields:
  log_type: type1
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG2/forecaster.log
  fields:
  log_type: type2
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG3/forecaster.log
  fields:
  log_type: type3

logstash.conf

input {
    beats {
                type => "filebeat"
                port => "5044"
    }
}

filter {
  #If log line contains tab character followed by 'at' then we will tag that entry as stacktrace
  if [message] =~ "\tat" {
    grok {
      match => ["message", "^(\tat)"]
      add_tag => ["stacktrace"]
    }
  }
}
output {
stdout {
    codec => rubydebug
  }
if ([fields][log_type] == "type1") {
elasticsearch {
hosts => ["IP:9200"]
index => "log1"
}
}
if ([fields][log_type] == "type2") {
elasticsearch {
hosts => ["IP:9200"]
index => "log2"
}
}
if ([fields][log_type] == "type3") {
elasticsearch {
hosts => ["IP:9200"]
index => "log3"
}
}
}

使用上述配置,并在分析了EL和filebeat的日志之后,将从filebeat提取日志文件,并将日志文件发送到logstash,在此处对其进行处理,但不会将其发送到弹性搜索。

我需要帮助弄清楚出什么毛病/遗漏了,以便进行这项工作

谢谢

1 个答案:

答案 0 :(得分:0)

在字段部分中,filebeat配置中的缩进似乎不正确,您缺少了两个空格字符

filebeat.inputs:
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG1/forecaster.log
  fields:
    log_type: type1                            <-- fis this line
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG2/forecaster.log
  fields:
    log_type: type2                            <-- fis this line
- type: log
  enabled: true
  paths:
    - /data01/-----/LOG3/forecaster.log
  fields:
    log_type: type3                            <-- fis this line