以编程方式使用ANTLR4创建Java 8 AST

时间:2016-03-06 07:33:21

标签: java gradle antlr antlr4

我试图弄清楚究竟如何使用ANTLR,但我很难消化我发现的东西。到目前为止,这是我的资源:

一点背景

我正在尝试从JavaParse转移到ANTLR,因为除了Java之外我还想处理语言的AST。我对ANTLR和预定义语法(上面链接)的理解是这是可行的。

设置

我在IntelliJ中创建了一个非常简单和标准的gradle项目,我仍然遇到问题:

问题

我错过了Java8LexerJava8Parser课程。我不知道在哪里找到这些。

build.gradle

group 'com.antlr-demo'
version '1.0-SNAPSHOT'

apply plugin: 'java'

sourceCompatibility = 1.8

repositories {
    mavenCentral()
}

dependencies {
    compile 'org.antlr:antlr4-master:4.5'
    testCompile group: 'junit', name: 'junit', version: '4.11'
}

Test.java

即使在这个非常简单的例子中,我所需要的两个类都没有被导入。

public static void parseFile(String f) { // found in Test.java:257
    try {
        if ( !quiet ) System.err.println(f);
        // Create a scanner that reads from the input stream passed to us
        Lexer lexer = new Java8Lexer(new ANTLRFileStream(f)); // missing

        CommonTokenStream tokens = new CommonTokenStream(lexer);

        // Create a parser that reads from the scanner
        Java8Parser parser = new Java8Parser(tokens); // missing
        if ( diag ) parser.addErrorListener(new DiagnosticErrorListener());
        if ( bail ) parser.setErrorHandler(new BailErrorStrategy());
        if ( SLL ) parser.getInterpreter().setPredictionMode(PredictionMode.SLL);

        // start parsing at the compilationUnit rule
        ParserRuleContext t = parser.compilationUnit();
        if ( notree ) parser.setBuildParseTree(false);
        if ( gui ) t.inspect(parser);
        if ( printTree ) System.out.println(t.toStringTree(parser));
    }
    catch (Exception e) {
        System.err.println("parser exception: "+e);
        e.printStackTrace();   // so we can get stack trace
    }
}

pom file ...

中未对此进行描述

3 个答案:

答案 0 :(得分:2)

我在github上创建了一个开源项目,它自动生成解析器/词法分析器和AST,并在内存中创建。你可以在github上找到它https://github.com/julianthome/inmemantlr

从JAVA程序获取AST的代码非常简单:

// the ANTLR grammar
File f = new File("src/test/ressources/Java.g4");
// plug the ANTLR grammar in 
GenericParser gp = new GenericParser(f, "Java");
// load the file that we'd like to parse into a String variable
String s = FileUtils.loadFileContent("src/test/ressources/HelloWorld.java");
// this listener will create an AST from the java file    
gp.setListener(new DefaultTreeListener());
// compile Parser/Lexer
gp.compile();
ParserRuleContext ctx = ctx = gp.parse(s);
// get access to AST
Ast ast = dlist.getAst();
// print AST in dot format
System.out.println(ast.toDot());

如果您有兴趣,可以仔细查看存储库中的测试用例。

祝福和亲切的问候,   儒略

答案 1 :(得分:1)

你错过了一步。你得到了java8语法,但还没有从中创建一个解析器。这通常涉及在语法文件(FAQs and more)上运行antlr4 jar,这非常简单(例如从Getting Started页面获取):

$ antlr4 Hello.g4
$ javac Hello*.java

答案 2 :(得分:1)

有一个gradle插件,其名称为antlr,可将g4个文件翻译成java个文件。您可以在antlr

获取https://docs.gradle.org/current/userguide/antlr_plugin.html插件的详细信息

此外,您可以使用gradle + antlrhttps://github.com/todylu/xcodeprojectParser

查看真实项目
  • antlr语法项目中的依赖项:antlr "org.antlr:antlr4:4.5.3"
  • 演示项目中的依赖项:compile "org.antlr:antlr4-runtime:4.5.3"

顺便说一句,最好将ANTLR v4 grammar plugin安装到Intellij Idea中以帮助您编辑g4文件。