从日志文本文件

时间:2016-06-07 13:54:51

标签: bash shell text text-processing

我有一个大行日志文件,行为

[2016-06-03T10:03:12] No data: TW.WA2

[2016-06-03T11:03:02] wrong overlaps: XW.W12.HHZ.2007.289

[2016-06-03T14:05:26] failed to correct YP.CT02.HHZ.2012.334 because No matching response.

每一行都包含一个时间戳,记录的原因以及由上面示例中的点(TW.WA2XW.W12.HHZ.2007.289YP.CT02.HHZ.2012.334连接的一些子串组成的关键字。)

特定类型的关键字的格式是固定的(子串通过固定数量的点连接)。

子串由字母和数字组成(0-5个字符,但并非所有子字符串都可以为空,通常最多只有一个,例如XW.WTA12..2007.289)。

我想

  • 提取关键字

  • 将不同类型的关键词保存为单独的文件

目前我尝试了grep,但只完成了分类。

  • grep "wrong overlaps" logfile > wrong_overlaps

  • grep "failed to correct" logfile > no_resp

  • grep "No data" logfile > no_data

no_data中,内容与

一样
AW.AA1
TW.WA2
TW.WA3
 ...

no_resp中,内容与

一样
XP..HHZ.2002.334
YP.CT01.HHZ.2012.330
YP.CT02.HHZ.2012.334
 ...

但是,上面的简单grep命令会保存整行。我想我需要正则表达式来提取关键字?

1 个答案:

答案 0 :(得分:4)

假设关键字是通过包含句点并由字母和数字包围来定义的,则后面的正则表达式将匹配所有关键字:

% grep -oE '\w+(\.\w+)+' data
TW.WA2
XW.W12.HHZ.2007.289
YP.CT02.HHZ.2012.334

-o仅会打印匹配项。 -E启用扩展正则表达式

然而,这将使您无法将其拆分为多个文件,例如:创建包含wrong_overlaps所有行的文件wrong overlaps

您可以使用-P启用支持lookbehinds的Perl兼容正则表达式:

% grep -oP '(?<=wrong overlaps: )\w+(\.\w+)+' data
XW.W12.HHZ.2007.289

但请注意,PCRE不支持可变长度的lookbehinds,所以你需要输入完整的模式,例如:

something test string: ABC:DEF

ABC:DEF可以提取:

(?<=test string: )\w+(\.\w+)+

但不是

(?<=test string)\w+(\.\w+)+