使用弹性搜索获取日志文件

时间:2017-04-14 09:14:26

标签: python elasticsearch elasticsearch-dsl elasticsearch-dsl-py

的信息:

Filebeat安装在将从中读取日志并发送到弹性搜索服务器的计算机上。在测试机器上,使用elasticsearch-dsl,我正在读取日志并将其写入文件。

问题:

原始机器日志:

[Timestamp][INFO] AAAAAA
[Timestamp][INFO] BBBBBB
[Timestamp][INFO] CCCCCC

搜索并将日志写入输出文件后:

[Timestamp][INFO] CCCCCC
[Timestamp][INFO] AAAAAA
[Timestamp][INFO] BBBBBB

如何保持日志序列完整或原样?

代码:

from elasticsearch import Elasticsearch
from elasticsearch_dsl import Search, Q, Index
import time
#Make Connection
es =  Elasticsearch(["100.16.13.222:9200"])

#Create Index Object
ind = Index("filebeat-*",using=es)
#Clear Cache
ind.clear_cache()
#Create Search object for this index
sear = ind.search()

#Create query
sear =  sear.query("match",host="WIN-LK9FS7568K4").query("match",tags="old_log")
res = sear.execute(ignore_cache=True)
print int(res.hits.total)

with open("a.txt","w") as fh:
    for i in sear.scan():
        fh.write(i.message+"\n")

1 个答案:

答案 0 :(得分:1)

您需要按时间戳对日志进行排序。将搜索代码更改为:

sear =  sear.sort('timestamp')
            .query("match",host="WIN-LK9FS7568K4")
            .query("match",tags="old_log")

当然,您需要更改timestamp以匹配您的时间戳字段。