在antlr4.7中如何解析像ISO 8601间隔" P3M2D"在" ID"之前规则

时间:2017-12-11 20:30:54

标签: parsing antlr4

我正在尝试使用antlr4解析ISO 8601 period expressions喜欢" P3M2D"。但我正在遇到某种障碍,并会感激帮助。我对antlr和编译器都很陌生。

我的语法如下。我将lexer和parser规则结合在一起:

grammar test_iso ;
// import testLexerRules ;

iso : ( date_expr NEWLINE)* EOF;

date_expr
    :   date_expr op=( '+' | '-' ) iso8601_interval #dateexpr_Interval
    |   date_expr op='-' date_expr                  #dateexpr_Diff
    |   DATETIME_NAME                               #dateexpr_Named
    |   '(' inner=date_expr ')'                     #dateexpr_Paren
    ;

///////////////////////////////////////////

iso8601_interval
    :   iso8601_interval_d
        { System.out.println("ISO8601_INTERVAL DATE seen " + $text);}
    ;

iso8601_interval_d
    :   'P' ( y=NUMBER_INT 'Y' )? ( m=NUMBER_INT 'M' )? ( w=NUMBER_INT 'W' )? ( d=NUMBER_INT 'D' )?
    ;

///////////////////////////////////////////
// in separate file : test_lexer.g4
// lexer grammar testLexerRules ;
///////////////////////////////////////////

fragment
TODAY 
    :   'today' | 'TODAY' 
    ;
fragment
NOW 
    :   'now' | 'NOW' 
    ;

DATETIME_NAME
    :   TODAY
    |   NOW
    ;

///////////////////////////////////////////

NUMBER_INT
    :   '-'? INT                    // -3, 45
    ;

fragment
DIGIT :     [0-9] ;

fragment
INT :       '0' | [1-9] DIGIT* ;

//////////////////////////////////////////////

//
// identifiers
//

ID 
    :   ALPHA ALPH_NUM* 
    { System.out.println("ID seen " + getText()); }
    ;

ID_SQLFUNC
    :   'h$' ALPHA_UPPER ALPHA_UPPER_NUM*
    { System.out.println("SQL FUNC seen " + getText()); }
    ;

fragment
ALPHA :    [a-zA-Z] ;

fragment
ALPH_NUM : [a-zA-Z_0-9] ;

fragment
ALPHA_UPPER :    [A-Z] ;

fragment
ALPHA_UPPER_NUM : [A-Z_0-9] ;

//////////////////////////////////////////////

NEWLINE : '\r\n' ;
WS  :  [ \t]+ -> skip  ;

在测试运行中,它永远不会达到iso8601_interval_d规则,它始终会转到ID规则。

C:\lab>java org.antlr.v4.gui.TestRig test_iso iso -tokens -tree
now + P3M2D
^Z
ID seen P3M2D
[@0,0:2='now',<DATETIME_NAME>,1:0]
[@1,4:4='+',<'+'>,1:4]
[@2,6:10='P3M2D',<ID>,1:6]
[@3,11:12='\r\n',<'
'>,1:11]
[@4,13:12='<EOF>',<EOF>,2:0]
line 1:6 mismatched input 'P3M2D' expecting 'P'
ISO8601_INTERVAL DATE seen P3M2D
(iso (date_expr (date_expr now) + (iso8601_interval (iso8601_interval_d P3M2D))) \r\n <EOF>)

如果我删除&#34; ID&#34;规则并再次运行,它根据需要进行解析:

now + P3M2D
^Z
[@0,0:2='now',<DATETIME_NAME>,1:0]
[@1,4:4='+',<'+'>,1:4]
[@2,6:6='P',<'P'>,1:6]
[@3,7:7='3',<NUMBER_INT>,1:7]
[@4,8:8='M',<'M'>,1:8]
[@5,9:9='2',<NUMBER_INT>,1:9]
[@6,10:10='D',<'D'>,1:10]
[@7,11:12='\r\n',<'
'>,1:11]
[@8,13:12='<EOF>',<EOF>,2:0]
ISO8601_INTERVAL DATE seen P3M2D
(iso (date_expr (date_expr now) + (iso8601_interval (iso8601_interval_d P 3 M 2 D))) \r\n <EOF>)

我也尝试过为#34; @&#34;等特殊字符加前缀。在解析器规则

iso8601_interval_d
    :   '@P' ( y=NUMBER_INT 'Y' )? ( m=NUMBER_INT 'M' )? ( w=NUMBER_INT 'W' )? ( d=NUMBER_INT 'D' )?
    ;

但现在出现了另一种失败

now + @P3M2D
^Z
ID seen M2D
[@0,0:2='now',<DATETIME_NAME>,1:0]
[@1,4:4='+',<'+'>,1:4]
[@2,6:7='@P',<'@P'>,1:6]
[@3,8:8='3',<NUMBER_INT>,1:8]
[@4,9:11='M2D',<ID>,1:9]
[@5,12:13='\r\n',<'
'>,1:12]
[@6,14:13='<EOF>',<EOF>,2:0]
line 1:9 no viable alternative at input '3M2D'
ISO8601_INTERVAL DATE seen @P3M2D
(iso (date_expr (date_expr now) + (iso8601_interval (iso8601_interval_d @P 3 M2D))) \r\n <EOF>)

我相信我不是第一个遇到类似事情的人。这里的antlr成语是什么?

编辑 - 我在语法的其他部分需要ID令牌,我在这里省略了,以突出我面临的问题。

2 个答案:

答案 0 :(得分:1)

就像查找其他人一样,问题出在ID令牌中。事实是iso-8601的持续时间语法是有效的ID。除了@Mike找到的解决方案。如果名为island grammar的内容适合您的需求,您可以在解析iso日期时使用ANTLR的lexical modes 排除 ID词法分析器规则。 亲爱的,有一个关于它如何运作的例子

false

然后在词法分析器

parser grammar iso;
options { tokenVocab=iso_lexer; }

iso : ISO_BEGIN ( date_expr NEWLINE)* ISO_END;

date_expr
    :   date_expr op=( '+' | '-' ) iso8601_interval #dateexpr_Interval
    |   date_expr op='-' date_expr                  #dateexpr_Diff
    |   DATETIME_NAME                               #dateexpr_Named
    |   '(' inner=date_expr ')'                     #dateexpr_Paren
    ;

///////////////////////////////////////////

iso8601_interval
    :   iso8601_interval_d
        { System.out.println("ISO8601_INTERVAL DATE seen " + $text);}
    ;

iso8601_interval_d
    :   'P' ( y=NUMBER_INT 'Y' )? ( m=NUMBER_INT 'M' )? ( w=NUMBER_INT 'W' )? ( d=NUMBER_INT 'D' )?
    ;

这样的语法可以解析像

这样的表达式
lexer grammar iso_lexer;

//
// identifiers (in DEFAULT_MODE)
//

ISO_BEGIN
    : '<@' -> mode(ISO)
    ;

ID
    :   ALPHA ALPH_NUM*
    { System.out.println("ID seen " + getText()); }
    ;

ID_SQLFUNC
    :   'h$' ALPHA_UPPER ALPHA_UPPER_NUM*
    { System.out.println("SQL FUNC seen " + getText()); }
    ;

WS0  :  [ \t]+ -> skip  ;

// all the following token are scanned only when iso mode is active
mode ISO;
ISO_END
    : '@>' -> mode(DEFAULT_MODE)
    ;

WS0  :  [ \t]+ -> skip  ;
NEWLINE : '\r'? '\n' ;


ADD : '+' ;
SUB : '-' ;
LPAREN : '(' ;
RPAREN : ')' ;
P : 'P' ;
Y : 'Y' ;
M : 'M' ;
W : 'W' ;
D : 'D' ;

DATETIME_NAME
    :   TODAY
    |   NOW
    ;

fragment TODAY:   'today' | 'TODAY'    ;
fragment NOW :   'now' | 'NOW' ;


///////////////////////////////////////////

NUMBER_INT
    :   '-'? INT                    // -3, 45
    ;

fragment DIGIT :     [0-9] ;

fragment INT :       '0' | [1-9] DIGIT* ;

//////////////////////////////////////////////

fragment ALPHA :    [a-zA-Z] ;

fragment ALPH_NUM : [a-zA-Z_0-9] ;

fragment ALPHA_UPPER :    [A-Z] ;

fragment ALPHA_UPPER_NUM : [A-Z_0-9] ;

我更改了解析器规则Pluton Planet <% now + P10Y %> 以演示ID和句点混合。 希望这有帮助

答案 1 :(得分:0)

你不想做什么。 IDiso8601_interval匹配相同的输入。在这种情况下,ANTLR4选择最长的匹配,即ID,因为它可以匹配无限数量的字符。

在语法中使用它的唯一方法是将P排除在可能的ID导入器之外,然后可以专门用于持续时间。

另一种选择是后处理步骤。解析持续时间与任何其他标识符一样,在语义阶段检查所有看起来像持续时间的ID。这可能是最好的解决方案。