AWS Glue不会对我的数据进行分类

时间:2018-04-24 07:35:04

标签: amazon-web-services logstash-grok aws-glue

我有一个html文件,结构如下:

<!doctype html public "-//w3c//dtd html 4.0transitional//en">
<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=iso-8859-1">
<meta name="Author" content="ERA">
<LINK REL=STYLESHEET TYPE="text/css" HREF="Style_Sheets/ERA_Internet_Printer.css">
</head>
<body>
<pre>
<font face="courier new" size=-4>                                                                                          14V-IG-TEST-DATA - SERVC - EXEC# 4515 
                                                                                          [11| Blubb,abcons, Port: 18 For: abcons

                                                                           For period : GE 08/04/18 AND LE 11/04/18 OR GE 11/04/18 AND LE 11/05/18 
                                                                                             01:45:40  11-04-18  -  Page #    1 


Serial#........................ 564561215
Make Desc...................... VW
Carline........................ MUX
Year...........................  2015
Cust#  ........................     512
License#....................... 78365HH
Open RO........................ R25625
EOR............................ EOR

Serial#........................ 2151512315
Make Desc...................... VOLKSWAGEN
Carline........................ VOLKSWAGEN
Year...........................  2017
Cust#  ........................     552
License#....................... DPA2151
Open RO........................ T52165
EOR............................ EOR
2 records listed.
</pre>
</body>
</html>

我想从文件中获取信息,如“Key .......... Value”。 所以我在AWS Glue中使用Grok创建了一个自定义分类器来获取信息。 分类器配置如下: Custom Classifier

所以Grok Pattern配置如下:

%{KEY:mykey}%{GREEDYDATA:myvalue}

使用自定义模式:

KEY ([a-zA-Z# 1-9]+\.+ )

每个Grok在线调试器(如https://grokdebug.herokuapp.com/)都会使用此配置从数据结构中获取信息。但是当我使用自定义分类器在Glue中启动爬虫时,它将找不到任何表或结构。

我做错了什么?

1 个答案:

答案 0 :(得分:2)

我认为您遇到了我在这里回答的问题:https://github.com/aws-samples/aws-glue-samples/issues/4

AWS文档中有一句埋葬的句子,上面写着“要重新分类数据以纠正不正确的分类器,请使用更新的分类器创建新的搜寻器”

仅更新分类器并重新运行搜寻器将不会使用更新的分类器。