Question

需要帮助转换带有ANSI颜色转义序列和日期时间戳标记的数据的日志文件。这是文本中的行格式：

'\x1b[34m[SOME_INFO]\x1b[0m \x1b[36m[SOME_OTHR_INFO]\x1b[0m Thu Sep 09 00:59:12 XST some variable length message which might contain commas (,), etc.'

我处在隔离的网络中，几乎无法访问Internet，并且使用Python 2.7。

我已经浪费了几个小时:(。我最接近的是使用@Elliot Chance的解决方案

re.sub(r'\x1b\[[\d;]+m', '', s)

Filtering out ANSI escape sequences在此处提供，如下所示：

t = re.sub(r'\x1b\[[\d;]+m', '~', s)
re.split(r'~|(Mon|Tue|Wed|Thu|Fri|Sat|Sun.*?\d{4})', t)

这不能给我我想要的东西。上面代码的输出：

['',
 None,
 '[SOME_INFO]',
 None,
 ' ',
 None,
 '[SOME_OTHR_INFO]',
 None,
 ' ',
 'Thu',
 ' Sep 09 00:59:12 XST some variable length message which might contain commas (,), etc.']

我正在寻找的输出如下：

'SOME_INFO, SOME_OTHR_INFO, Thu Sep 09 00:59:12 XST, some variable length message which might contain commas (,), etc.

是否可以使用pandas.read_csv()或类似的方法将数据加载到熊猫数据框？

注意：每行都以转义码开头，但每行中可能会有可变字段（即， SOME_INFO, SOME_OTHR_INFO, ANOTHER_INFO, etc. followed by the timestamp followed by free text).

Answer 1

以下为我完成了工作：

import re
import pandas as pd

def split_line(s):
    t = re.sub(r'\x1b\[[\d]+m', '~', s) #assume ~ is not present in the free text field 
    t = re.sub('~\s+~|~\s+), '~', s)
    return filter(None, re.split('~|(\D{3}\s\D{3}\s\d{2}.*\d{4})\s+', t))

下一步：

使用

df = pd.read_csv(file_name, header=None, sep='\n', engine='python', index_col=False)

将上述函数应用于上述数据框的每一行。我在应用pd.apply()时遇到了麻烦，所以我最终改用了列表理解方法

col_names = ['A', 'B', 'C', 'D']
df = pd.DataFrame([split_line(str(s)) for s in df[0], columns=col_names]
df.head()

最后使用df.to_csv()将文件写入csv

解析标有ANSI颜色转义序列的数据

1 个答案: