Question

我有这样的语法：

grammar MyGrammar;

field  : f1 (STROKE f2 f3)? ;

f1 : FIELDTEXT+ ;
f2 : 'A' ;
f3 : NUMBER4 ; 

FIELDTEXT    : ~['/'] ;
NUMBER4  : [0-9][0-9][0-9][0-9];
STROKE : '/' ;

这种方法效果很好，字段f1 f2 f3都已正确填充。

除A左侧/外，（无论是否存在可选部分），此外还会导致错误：

extraneous input 'A' expecting {<EOF>, FIELDTEXT, '/'}

一些示例数据：

PHOEN

- ＆GT;行。

KLM405/A4046

- ＆GT;行。

SAW502A

- ＆GT;不行，＆＃39; A＆＃39;在f1。

BAW617/A5136

- ＆GT;不行，＆＃39; A＆＃39;在f1。

我不明白为什么＆＃39; A＆＃39;这是一个问题（字段仍然填充）。

Answer 1

SAW502A的问题是'A'是一个单独的标记，隐式定义：

f2 : 'A' ;

（如果明确定义它将是相同的）：

[@16,19:19='S',<FIELDTEXT>,3:0]
[@17,20:20='A',<'A'>,3:1]
[@18,21:21='W',<FIELDTEXT>,3:2]
[@19,22:22='5',<FIELDTEXT>,3:3]
[@20,23:23='0',<FIELDTEXT>,3:4]
[@21,24:24='2',<FIELDTEXT>,3:5]
[@22,25:25='A',<'A'>,3:6]
[@23,26:26='\n',<FIELDTEXT>,3:7]

且规则f1不允许除FIELDTEXT以外的任何内容。它适用于：

f1 : ( FIELDTEXT | 'A' )+ ;

档案Question.g4：

grammar Question;

question
@init {System.out.println("Question last update 2305");}
    : line+ EOF
    ;
line
    : f1 (STROKE f2 f3)? NL
      {System.out.println("f1=" + $f1.text + " f2=" + $f2.text + " f3=" + $f3.text);}
    ;

f1 : ( FIELDTEXT | 'A' )+ ;
f2 : 'A' ;
f3 : NUMBER4 ; 

NUMBER4   : [0-9][0-9][0-9][0-9] ;
STROKE    : '/' ;
NL        : [\r\n]+ ; // -> channel(HIDDEN) ;
WS        : [ \t]+ -> skip ;
FIELDTEXT : ~[/] ;

输入文件t.text：

PHOEN
KLM405/A4046
SAW502A
BAW617/A5136

执行：

$ grun Question question -tokens -diagnostics t.text
[@0,0:0='P',<FIELDTEXT>,1:0]
[@1,1:1='H',<FIELDTEXT>,1:1]
[@2,2:2='O',<FIELDTEXT>,1:2]
[@3,3:3='E',<FIELDTEXT>,1:3]
[@4,4:4='N',<FIELDTEXT>,1:4]
[@5,5:5='\n',<NL>,1:5]
[@6,6:6='K',<FIELDTEXT>,2:0]
[@7,7:7='L',<FIELDTEXT>,2:1]
[@8,8:8='M',<FIELDTEXT>,2:2]
[@9,9:9='4',<FIELDTEXT>,2:3]
[@10,10:10='0',<FIELDTEXT>,2:4]
[@11,11:11='5',<FIELDTEXT>,2:5]
[@12,12:12='/',<'/'>,2:6]
[@13,13:13='A',<'A'>,2:7]
[@14,14:17='4046',<NUMBER4>,2:8]
[@15,18:18='\n',<NL>,2:12]
[@16,19:19='S',<FIELDTEXT>,3:0]
[@17,20:20='A',<'A'>,3:1]
[@18,21:21='W',<FIELDTEXT>,3:2]
[@19,22:22='5',<FIELDTEXT>,3:3]
[@20,23:23='0',<FIELDTEXT>,3:4]
[@21,24:24='2',<FIELDTEXT>,3:5]
[@22,25:25='A',<'A'>,3:6]
[@23,26:26='\n',<NL>,3:7]
[@24,27:27='B',<FIELDTEXT>,4:0]
[@25,28:28='A',<'A'>,4:1]
[@26,29:29='W',<FIELDTEXT>,4:2]
[@27,30:30='6',<FIELDTEXT>,4:3]
[@28,31:31='1',<FIELDTEXT>,4:4]
[@29,32:32='7',<FIELDTEXT>,4:5]
[@30,33:33='/',<'/'>,4:6]
[@31,34:34='A',<'A'>,4:7]
[@32,35:38='5136',<NUMBER4>,4:8]
[@33,39:39='\n',<NL>,4:12]
[@34,40:39='<EOF>',<EOF>,5:0]
Question last update 2305
f1=PHOEN f2=null f3=null
f1=KLM405 f2=A f3=4046
f1=SAW502A f2=null f3=null
f1=BAW617 f2=A f3=5136

Answer 2

输入SAW502A将被标记为六个FIELDTEXT，然后是一个'A'令牌。这是一个问题，因为＆＃39; A＆＃39;在该位置不允许使用令牌 - 只有FIELDTEXT令牌。显然，您希望A在此上下文中也是FIELDTEXT（并且在f2规则中仅被区别对待），但令牌生成器不知道哪种令牌语法在某一点上是必需的 - 它只知道令牌规则并生成最适合的令牌。因此，只要它看到A，就会生成'A'令牌。

请注意，这也意味着每当它看到四个连续数字时，它就会生成NUMBER4标记。因此，如果您的输入为SAW5023，则由于意外的NUMBER4令牌而导致错误。

您可以通过引入A非终端规则来解决everythingButAStroke的问题，该规则可以是FIELDTEXT，'A'或{{1} }，但这不会解决NUMBER4问题。每当您添加新的令牌规则时，您也会将其添加到NUMBER4。但这不是一个很好的解决方案。首先，您添加的令牌规则越多，管理就越少。而对另一个人来说，你显然希望everythingButAStroke成为单个字符的列表，但现在有{4}个令牌，它们有四个字符，也会存在，这将是奇怪的和不一致的。

在我看来，您的整个f1规则可能是单个终端规则（理想情况下，为了便于阅读而分为NUMBER4），而不是像这样使用非终端规则。这样你就不会有重叠终端规则的问题。

Answer 3

我经常遇到一个否定词法分析器规则使得很难定义其他词法分析器规则，因此我更愿意避免使用它们。似乎a /，如果存在，总是后跟A。因此我有另一个解决方案。

档案Question_x.g4：

grammar Question_x;

question
@init {System.out.println("Question last update 0112");}
    : line+ EOF
    ;

line
    : f1 ( f2s='/A' f3 )? NL
      { String f2 = _localctx.f2s != null ? _localctx.f2s.getText().substring(1) : null;
        System.out.println("f1=" + $f1.text + " f2=" + f2 + " f3=" + $f3.text);}
    ;

f1 : ALPHANUM | NUMBER4 ;
f3 : NUMBER4 ; 

NUMBER4   : [0-9][0-9][0-9][0-9] ;
ALPHANUM  : [a-zA-Z0-9]+ ;
NL        : [\r\n]+ ; // -> channel(HIDDEN) ;
WS        : [ \t]+ -> skip ;

输入文件t.text：

PHOEN
KLM405/A4046
SAW502A
BAW617/A5136
SAW5023
1234/A1234

执行：

$ grun Question_x question -tokens -diagnostics t.text
[@0,0:4='PHOEN',<ALPHANUM>,1:0]
[@1,5:5='\n',<NL>,1:5]
[@2,6:11='KLM405',<ALPHANUM>,2:0]
[@3,12:13='/A',<'/A'>,2:6]
[@4,14:17='4046',<NUMBER4>,2:8]
[@5,18:18='\n',<NL>,2:12]
[@6,19:25='SAW502A',<ALPHANUM>,3:0]
[@7,26:26='\n',<NL>,3:7]
[@8,27:32='BAW617',<ALPHANUM>,4:0]
[@9,33:34='/A',<'/A'>,4:6]
[@10,35:38='5136',<NUMBER4>,4:8]
[@11,39:39='\n',<NL>,4:12]
[@12,40:46='SAW5023',<ALPHANUM>,5:0]
[@13,47:47='\n',<NL>,5:7]
[@14,48:51='1234',<NUMBER4>,6:0]
[@15,52:53='/A',<'/A'>,6:4]
[@16,54:57='1234',<NUMBER4>,6:6]
[@17,58:58='\n',<NL>,6:10]
[@18,59:58='<EOF>',<EOF>,7:0]
Question last update 0112
f1=PHOEN f2=null f3=null
f1=KLM405 f2=A f3=4046
f1=SAW502A f2=null f3=null
f1=BAW617 f2=A f3=5136
f1=SAW5023 f2=null f3=null
f1=1234 f2=A f3=1234

ANTLR 4外来输入匹配非词法分析项目

3 个答案: