开发一个简单的解析器

时间:2008-12-24 13:44:22

标签: parsing bison flex-lexer

我的日常工作包括开发类似Pascal的编译器。我一直在努力优化和代码生成。

我还想开始学习为同一种语言构建一个简单的解析器。但是,我不太确定如何解决这个问题。 Flex和Bison似乎是首选。但是,是不是可以使用C ++或C#编写解析器?我对C有点不满意。

Yacc ++支持C#,但它是获得许可的。我正在寻找在这方面能找到的所有帮助。建议将受到高度赞赏。

9 个答案:

答案 0 :(得分:6)

我相信你可以在C#中使用ANTLR。我自己从未尝试过(但是),但有一个教程here可能会指向正确的方向。

答案 1 :(得分:5)

就个人而言,我推出自己的词法分析器和解析器(LL)。这是一个非常简短的例子。它是用C ++编写的,但希望你能适应它。它利用宏PARSE_HIGHER,可以轻松地在不同的优先级别插入运算符,而无需更改代码。

 // routine to scan over whitespace/comments
void ScanWhite(const char* &pc){
  while(true){
    if(0);
    else if (WHITESPACE(*pc)) pc++;
    else if (pc[0]=='/' && pc[1]=='/'){
      while(*pc && *pc++ != '\n');
    }
    else break;
  }
}
// routine to lex an identifier
bool SeeId(const char* &pc, string sId){
  ScanWhite(pc);
  const char* pc0 = pc;
  if (alpha(*pc)){
    sId = "";
    while(alphanum(*pc)) sId += (*pc++);
    return true;
  }
  pc = pc0;
  return false;
}
// routine to lex a number
bool SeeNum(const char* &pc, double &dNum){
  ScanWhite(pc);
  const char* pc0 = pc;
  if (digit(*pc)){
    dNum = 0;
    while(digit(*pc)) dNum = dNum * 10 + (*pc++ - '0');
    if (*pc == '.'){
      double divisor = 1, frac = 0;
      while(digit(*pc)){
        divisor *= 0.1;
        frac += (*pc++ - '0') * divisor;
      }
      dNum += frac;
    }
    return true;
  }
  pc = pc0;
  return false;
}
// routine to lex some constant word
bool SeeWord(const char* &pc, const char* sWord){
  ScanWhite(pc);
  const char* pc0 = pc;
  int len = strlen(sWord);
  if (strncmp(pc, sWord, len)==0 && !alphanum(pc[len])){
    pc += len;
    return true;
  }
  pc = pc0;
  return false;
}
// routine to lex a single character like an operator
bool SeeChar(const char* &pc, const char c){
  ScanWhite(pc);
  const char* pc0 = pc;
  if (*pc == c){
    pc++;
    return true;
  }
  pc = pc0;
  return false;
}
// primitive expression parser
void ParsePrimitiveExpr(const char* &pc, CNode* &p){
  double dNum;
  char sId[100];
  if (0);
  else if (SeeNum(pc, dNum)){
    p = new CNode(dNum);
  }
  else if (SeeId(pc, sId)){
    // see if its a function call
    if (SeeChar(pc, '(')){
      p = MakeNewFunctionCallNode(sId);
      while(!SeeChar(pc, ')')){
        CNode* p1 = null;
        ParseExpression(pc, p1);
        AddArgumentExprToFunctionCallNode(p, p1);
        SeeChar(pc, ','); /* optional comma separator */
      }
    }
    // otherwise its just a variable reference
    else {
      p = new CNode(sId);
    }
  }
  // handle embedded expressions
  else if (SeeChar(pc, '(')){
    ParseExpression(pc, p);
    if (!SeeChar(pc, ')')) /* deal with syntax error */
  }
}
#define PARSE_HIGHER ParsePrimitiveExpr
// product parser
void ParseProduct(const char* &pc, CNode* &p){
  PARSE_HIGHER(pc, p);
  while(true){
    if (0);
    else if (SeeChar(pc, '*')){
      CNode p1 = null;
      PARSE_HIGHER(pc, p1);
      p = new CNode('*', p, p1);
    }
    else if (SeeChar(pc, '/')){
     CNode p1 = null;
     PARSE_HIGHER(pc, p1);
     p = new CNode('/', p, p1);
   }
   else break;
  }
}
#undef  PARSE_HIGHER
#define PARSE_HIGHER ParseProduct
// sum parser
void ParseSum(const char* &pc, CNode* &p){
  PARSE_HIGHER(pc, p);
  while(true){
    if (0);
    else if (SeeChar(pc, '+')){
      CNode p1 = null;
      PARSE_HIGHER(pc, p1);
      p = new CNode('+', p, p1);
    }
    else if (SeeChar(pc, '-')){
      CNode p1 = null;
      PARSE_HIGHER(pc, p1);
      p = new CNode('-', p, p1);
    }
   else break;
  }
}
#undef  PARSE_HIGHER
// can insert more routines like the above
// to handle move operators
#define PARSE_HIGHER ParseSum
// overall expression parser
void ParseExpression(const char* &pc, CNode* &p){
  PARSE_HIGHER(pc, p);
}

添加了一些Pascal风格的语句语法:

void ParseStatement(const char* &pc){
  char sId[100];
  if(0);
  else if (SeeWord(pc, "begin")){
    while(!SeeWord(pc, "end")){
      ParseStatement(pc);
      SeeChar(pc, ';');
    }
  }
  else if (SeeWord(pc, "while")){
    CNode* p1 = null;
    ParseExpression(pc, p1);
    ParseStatement(pc);
    /* semantics for while statement */
  }
  else if (SeeWord(pc, "if")){
    CNode* p1 = null;
    ParseExpression(pc, p1);
    ParseStatement(pc);
    if (SeeWord(pc, "else")){
      ParseStatement(pc);
    }
    /* semantics for if statement */
  }
  else if (SeeWord(pc, "for")){
    /* you do it */
  }
  // handle assignments and subroutine calls
  else if (SeeId(pc, sId)){
    if(0);
    else if (SeeChar(pc, '=')){
      CNode* p1 = null;
      ParseExpression(pc, p1);
      /* semantics for assignment statement */
    }
    else if (SeeChar(pc, '(')){
      CNode* p = MakeNewFunctionCallNode(sId);
      while(!SeeChar(pc, ')')){
        CNode* p1 = null;
        ParseExpression(pc, p1);
        AddArgumentExprToFunctionCallNode(p, p1);
        SeeChar(pc, ','); /* optional comma separator */
      }
    }
    else {
      /* we have a 1-word statement, which is OK in pascal */
    }
  }
  else {
    /* syntax error */
  }
}

它仍然需要数组索引,变量声明和函数定义的语法,但我希望很清楚如何做到这一点。

答案 2 :(得分:1)

在他的经典编程文本算法+数据结构=程序中,Niklaus Wirth开发了一个完整的递归下降解析器(在Pascal中),用于简单的Pascal0类语言。

答案 3 :(得分:0)

如果你用Java编写,我建议使用ANTLR。这是一个用Java编写的很好的LL(*)解析器生成器。在亚马逊上也有一本很棒的书。

答案 4 :(得分:0)

野牛& flex是规范的解析器生成器。如果你对C ++感兴趣,我发现boost spirit很有用。我从来没有将它用于任何像编译器这样复杂的东西。我相信其他人会对其他语言提出有趣的建议,例如C#...

答案 5 :(得分:0)

你实际上可以使用flex&野牛与C ++。例如,在this tutorial中,您可以看到第5部分专门用于此事。只是google for it,我相信你会找到很多例子。

答案 6 :(得分:0)

当你使用Lex和Yacc时,你实际上并没有在C中写任何东西。Lex是它自己的语言,就像Yacc一样。所以你在Lex和Yacc中的解析器中编写词法分析器。但是,对于Pascal,Lex和Yacc输入为already available

生成的解析器和词法分析器有C接口,这是真的。但是,大多数语言(包括C ++)都有简单的方法来调用(或包装)C接口。

我不是它的专家,但我确信所有上述内容都适用于ANTLR。

如果您要求使用“纯C ++”(无论这意味着什么),请查看使用boost spirit。如果能引起更多的工作,我真的没有看到理论纯度的重点。

手工编写自己的词法分析器和解析器实际上很有趣。词法分析器是极少数可以证明使用 goto 和预处理器的情况之一。但是,如果你能避免它,我不会建议像帕斯卡那样成熟的语言。那将是很多工作。我说的是人年。

答案 7 :(得分:0)

我已经编写了一个带有flex和bison的XSLT解析器。最近,我正在使用ANTLR做一个项目:

is JFig language syntax efficient and clear (and better than Spring-Framework’s XML DSL)?

我喜欢在ANTLR工作,而不是Flex和Bison。 ANTLR在某些方面使您处于更高的抽象层次。词法定义和解析器语法都可以放在一个文件中。 (ANTLR将生成令牌文件。)

其中一个关键项目是定义树语法的能力。基本上,您对输入语言进行语法分析,并将操作重写为高度优化的AST树输出(在内存中保留为链接数据结构)。然后,您可以将此树传递给在单独的树解析器文件中定义的另一个解析器。树解析器是您执行所需操作项的实际工作的地方。

这是一个很好的方法,因为您可以保留AST表单并根据需要重复处理它 - 根据后面的操作剥离特定的子树节点以进行处理等。想想像语言解释器这样的东西。而不是进入for循环并一遍又一遍地从头开始处理语言,而只是处理它的AST表示。

在我的情况下,我设计了一个bean工厂来进行IoC依赖注入。我的bean工厂在运行时保留bean描述符的AST。当它需要创建(或检索)一个新的bean实例时,我只是将bean描述符AST子树传递给我的树解析器 - 结果是所需的bean实例(有很多因素可用于确定如何实例化请求bean,包括通过元属性生成任何其他引用的bean和/或应用其他特殊行为。

最后,我当前的bean工厂以Java为目标,但我希望以ActionScript3和C#.NET为目标。 ANTLR支持这样做。

如上所述,Terrence Parr写了一本关于如何使用ANTLR的书。它面向需要用ANTLR做一些实际工作的工作程序员(而不是对该主题的学术处理)。

答案 8 :(得分:0)

如果您希望C#按此Question尝试使用Gardens Point GPPG和GPLEX。