Antlr中的Lexer模式

时间:2013-08-14 22:19:31

标签: java antlr antlr4

所有: 我正在尝试编写一个antlr解析器来解析一些文本,其格式如下:

RP   NUCLEOTIDE SEQUENCE [GENOMIC DNA],
RP   PROTEIN SEQUENCE OF 1-22; 2-17;
RP   240-256; 318-339 AND 381-390, AND CHARACTERIZATION.

基本上所有行都有一个前导'RP '来指示文本行的内容,最后一行应以"."结尾以表示此类行的结尾。文本也可以是任何东西。我最终需要的是文本。

我为此目的写了一个Antlr语法:

grammar RefLine;

rp_line: RP_HEADER RP_TEXT;

RP_HEADER : 'RP   '            -> pushMode(RP_FREE_TEXT_MODE);

mode RP_FREE_TEXT_MODE;
RP_HEADER_SKIP: '\nRP   '      -> skip;
RP_TEXT: .+;
DOT_NEWLINE: '.\n'             -> popMode;

这里的想法是当看到第一个RP_HEADER时,它变为RP_FREE_TEXT_MODE,从而跳过行之间的任何RP_HEADER。当看到DOT_NEWLINE时,返回主模式。

但是,这个语法不能用Antlr 4.1编译,产生错误:

[ERROR] Message{errorType=MODE_NOT_IN_LEXER, args=[RP_FREE_TEXT_MODE, org.antlr.v4.tool.Grammar@5c0662], e=null, fileName='RefLine.g4', line=7, charPosition=5}
[WARNING] Message{errorType=IMPLICIT_TOKEN_DEFINITION, args=[RP_TEXT], e=null, fileName='RefLine.g4', line=3, charPosition=19}

我不太明白为什么会产生错误。任何人都可以解释在Antlr中使用词法模式的正确方法吗?此外,TOKEN是否在解析器规则不可用的模式中定义?。

修改

正如@auselen建议的那样,我将lexer语法放在一个单独的文件中RefLineLex.g4:

lexer grammar RefLineLex;

RP_HEADER : 'RP   '            -> pushMode(RP_FREE_TEXT_MODE);

mode RP_FREE_TEXT_MODE;
RP_HEADER_SKIP: '\nRP   '      -> skip;
RP_TEXT: .+;
DOT_NEWLINE: '.\n'             -> popMode;

在另一个联合语法RefLine.g4中,我有:

grammar RefLine;
import RefLineLex;

rp_line: RP_HEADER RP_TEXT ;

现在Antlr编译文件,但在它生成的RefLineLexer.java中:

private void RP_HEADER_action(RuleContext _localctx, int actionIndex) {
        switch (actionIndex) {
        case 0: pushMode(RP_FREE_TEXT_MODE);  break;
        }
    }

常量:RP_FREE_TEXT_MODE未在RefLineLexer.java中的任何位置定义。 我还缺少什么吗?

1 个答案:

答案 0 :(得分:8)

Lexer模式仅适用于Lexer语法,而不适用于复合语法(Lexer + Parser)。有关一些不良文档,请参阅Lexer Rules,并在github上查看XML Parser实现示例。

您应该能够在错误打印中提供非常有用的errorType=MODE_NOT_IN_LEXER消息中理解这一点:)