使用pandas读取日志文件

时间:2017-11-23 09:58:05

标签: python database pandas dataframe logging

我有一个日志文件,我尝试用read_csv或read_table在pandas中读取。我有这个结果的例子:

0    date=2015-09-17    time=21:05:35     duration=0    etc...

在1栏上。

我想拆分每一行,取名字(如日期,时间......)并将它们转换为列,以便我得到:

          date           time     duration   ...
  0    2015-09-17      21:05:35      0              

谢谢!

2 个答案:

答案 0 :(得分:1)

我知道这是一篇旧文章,但是我遇到了同样的问题并找到了解决方案。错误Expected n fields in line n, saw n可能是由于每一行具有不同的列数。如果每行的列顺序不同,则此方法也不是很好。我在这里编写了一个示例代码,它将您的日志转换为json,然后转换为pandas Dataframe。

import pandas as pd
import json

path='log_sample.log'

log_data=open(path,'r')
result={}
i=0
for line in log_data:
    columns = line.split('') #or w/e you're delimiter/separator is
    data={}
    for c in columns:
        key = c.split('=')[0]
        value=c.split('=')[1]
        data[key]=value
    result[i]=data
    i+=1
j=json.dumps(result)

df=pd.read_json(j, orient='index')

答案 1 :(得分:0)

----- 编辑帐号答案的间距不一致:

不确定pythonic方法应该是什么,但这是一种可行的方法。

以OP的数据样本为例:

0    date=2015-09-17    time=21:05:35     duration=0
1    date=2015-09-17    time=21:05:36     duration=0
2    date=2015-09-17    time=21:05:37     duration=0
3    date=2015-09-17    time=21:05:38     duration=0
4    date=2015-09-17    time=21:05:39     duration=0
5    date=2015-09-17    time=21:05:40     duration=0

我遍历每一行并在等号处拆分,然后抓住所需的文字:

import pandas as pd

log_data  = open('log_sample.txt', 'r')
split_list = []

for line in log_data:
    thing1 = line.split('=')
    #print(thing1)
    date = thing1[1][:10]
    time = thing1[2][:8]
    dur = thing1[3]

    split_list.append([date, time, dur])

df = pd.DataFrame(split_list, columns=['date', 'time', 'duration'])
df

----- 第一回答:

正如@jezrael在评论中提到的那样,你可以利用read_csv中的“sep”参数。

pd.read_csv('test.txt', sep=r'\\t', engine='python') #[1]

请参阅: