我正在使用filebeat将日志数据流式传输到logstash,但每当我将新行添加到日志文件时,filebeat会将整个数据发送到logstash。现在我想要将新数据(增量数据)添加到我的日志文件中,只将数据流式传输到logstash。我需要在filebeat.yml中处理一些配置。我当前的filebeat配置看起来像 -
filebeat:
prospectors:
-
paths:
- /Users/yogi/dev-tools/elastic_search/access_log/*.log
input_type: log
document_type: app_log
ignore_older: 10m
scan_frequency: 10s
output:
logstash:
hosts: ["localhost:5000"]
bulk_max_size: 1024
console:
pretty: true
shipper:
logging:
files:
rotateeverybytes: 10485760 # = 10MB