所以我正在为我正在制作的与Python类似的语言编写解释器。现在我明白这不是一个小任务,我不希望它工作得很好或做得多,但我希望它有一些基本的功能(变量,函数,循环,if语句等......)
所以目前我处于解释器获取文件的阶段,并将其拆分为令牌列表,现在我已准备好将这些令牌转换为AST。我打算用递归下降解析器做这个,我相信我理解,但这是问题所在。我们说我有以下输入
1 + 2 * 3
这将输出7,因为使用BIDMAS首先进行乘法,所以
2 * 3 = 6
然后在
之后完成添加1 + 6 = 7
我知道如何获得此顺序,因为我有一个简单的语法,但我不知道如何将其存储为AST。为简化答案的内容,我们假设这是您将收到的唯一输入,语法可以是
program = add
add = mul {"+" mul}
mul = NUM {"*" NUM}
基本上,你如何建立一个存储AST的数据结构?
P.S。我在C中这样做。
答案 0 :(得分:4)
免责声明:此表示是主观的,只是为了阐明。
从根本上说,您的AST将构建为二叉树,其中每个AST节点都是一个“C”结构,同时包含“左”和“右”指针。 AST的其他元素通常是上下文敏感的。例如,变量声明与函数定义或函数中的表达式。对于你引用的例子,粗糙的树将反映出这一点:
+
/ \
1 *
/\
2 3
因此,将上述节点1 +(2 * 3)替换为AST构造将类似于:
-----------------
| type: ADDOP |
| left: struct* |
| right: struct*|
-----------------
/ \
/ \
(ADDOP left points to) (ADDOP right points to)
------------------------ --------------------------
| type: NUMLITERAL | | type: MULTOP |
| value: 1 | | left: struct* |
| left: struct* (null) | | right: struct* |
| right: struct*(null) | --------------------------
------------------------ / \
/ \
(MULTOP left points to) (MULTOP right points to)
------------------------ --------------------------
| type: NUMLITERAL | | type: NUMLITERAL |
| value: 2 | | value: 3 |
| left: struct* (null) | | left: struct* (null) |
| right: struct*(null) | | right: struct* (null) |
------------------------ --------------------------
我假设您对“C”以及如何malloc
节点和分配左/右指针有足够的了解。
现在剩下的活动是对树进行后序遍历,以评估表达式并生成结果或发出与编译结果对齐的适当中间代码/机器代码。任何一种选择都会带来大量的思考和计划。
BTW:如上所述,AST节点通常具有基于您想要表示的抽象级别的属性。另请注意,典型编译器可能出于不同原因利用多个AST。是的,更多的阅读/学习。注意:这说明了AST的数据结构,但是对于如何将字符串“1 + 2 * 3”输入到这种结构的节点中,@ mikeb答案是坚如磐石的。
答案 1 :(得分:1)
我使用" Shunting Yard"算法 - > https://en.wikipedia.org/wiki/Shunting-yard_algorithm
那里也有psudocode。
FTA:
在计算机科学中,分流码算法是一种解析中缀符号中指定的数学表达式的方法。它可用于生成后缀表示法字符串,也称为反向波兰表示法(RPN)或抽象语法树(AST)。该算法由Edsger Dijkstra发明,并命名为"调车场"因为它的操作类似于铁路调车场的操作。 Dijkstra首先在数学中心报告MR 34/61中描述了Shunting Yard算法。
与RPN的评估一样,分流码算法是基于堆栈的。中缀表达式是大多数人习惯使用的数学符号的形式,例如" 3 + 4"或" 3 + 4 *(2-1)"。对于转换,有两个文本变量(字符串),输入和输出。还有一个堆栈,用于保存尚未添加到输出队列的运算符。要进行转换,程序会按顺序读取每个符号,并根据该符号执行某些操作。上述例子的结果将是" 3 4 +"或" 3 4 2 1 - * +"。
分流码算法后来被推广为运算符优先解析。
代码,因为有人指出这不是如何存储它(如果你不喜欢C - 从http://rosettacode.org/wiki/Parsing/Shunting-yard_algorithm中选择):
#include <sys/types.h>
#include <regex.h>
#include <stdio.h>
typedef struct {
const char *s;
int len, prec, assoc;
} str_tok_t;
typedef struct {
const char * str;
int assoc, prec;
regex_t re;
} pat_t;
enum assoc { A_NONE, A_L, A_R };
pat_t pat_eos = {"", A_NONE, 0};
pat_t pat_ops[] = {
{"^\\)", A_NONE, -1},
{"^\\*\\*", A_R, 3},
{"^\\^", A_R, 3},
{"^\\*", A_L, 2},
{"^/", A_L, 2},
{"^\\+", A_L, 1},
{"^-", A_L, 1},
{0}
};
pat_t pat_arg[] = {
{"^[-+]?[0-9]*\\.?[0-9]+([eE][-+]?[0-9]+)?"},
{"^[a-zA-Z_][a-zA-Z_0-9]*"},
{"^\\(", A_L, -1},
{0}
};
str_tok_t stack[256]; /* assume these are big enough */
str_tok_t queue[256];
int l_queue, l_stack;
#define qpush(x) queue[l_queue++] = x
#define spush(x) stack[l_stack++] = x
#define spop() stack[--l_stack]
void display(const char *s)
{
int i;
printf("\033[1;1H\033[JText | %s", s);
printf("\nStack| ");
for (i = 0; i < l_stack; i++)
printf("%.*s ", stack[i].len, stack[i].s); // uses C99 format strings
printf("\nQueue| ");
for (i = 0; i < l_queue; i++)
printf("%.*s ", queue[i].len, queue[i].s);
puts("\n\n<press enter>");
getchar();
}
int prec_booster;
#define fail(s1, s2) {fprintf(stderr, "[Error %s] %s\n", s1, s2); return 0;}
int init(void)
{
int i;
pat_t *p;
for (i = 0, p = pat_ops; p[i].str; i++)
if (regcomp(&(p[i].re), p[i].str, REG_NEWLINE|REG_EXTENDED))
fail("comp", p[i].str);
for (i = 0, p = pat_arg; p[i].str; i++)
if (regcomp(&(p[i].re), p[i].str, REG_NEWLINE|REG_EXTENDED))
fail("comp", p[i].str);
return 1;
}
pat_t* match(const char *s, pat_t *p, str_tok_t * t, const char **e)
{
int i;
regmatch_t m;
while (*s == ' ') s++;
*e = s;
if (!*s) return &pat_eos;
for (i = 0; p[i].str; i++) {
if (regexec(&(p[i].re), s, 1, &m, REG_NOTEOL))
continue;
t->s = s;
*e = s + (t->len = m.rm_eo - m.rm_so);
return p + i;
}
return 0;
}
int parse(const char *s) {
pat_t *p;
str_tok_t *t, tok;
prec_booster = l_queue = 0;
display(s);
while (*s) {
p = match(s, pat_arg, &tok, &s);
if (!p || p == &pat_eos) fail("parse arg", s);
/* Odd logic here. Don't actually stack the parens: don't need to. */
if (p->prec == -1) {
prec_booster += 100;
continue;
}
qpush(tok);
display(s);
re_op: p = match(s, pat_ops, &tok, &s);
if (!p) fail("parse op", s);
tok.assoc = p->assoc;
tok.prec = p->prec;
if (p->prec > 0)
tok.prec = p->prec + prec_booster;
else if (p->prec == -1) {
if (prec_booster < 100)
fail("unmatched )", s);
tok.prec = prec_booster;
}
while (l_stack) {
t = stack + l_stack - 1;
if (!(t->prec == tok.prec && t->assoc == A_L)
&& t->prec <= tok.prec)
break;
qpush(spop());
display(s);
}
if (p->prec == -1) {
prec_booster -= 100;
goto re_op;
}
if (!p->prec) {
display(s);
if (prec_booster)
fail("unmatched (", s);
return 1;
}
spush(tok);
display(s);
}
return 1;
}
int main()
{
int i;
const char *tests[] = {
"3 + 4 * 2 / ( 1 - 5 ) ^ 2 ^ 3", /* RC mandated: OK */
"123", /* OK */
"3+4 * 2 / ( 1 - 5 ) ^ 2 ^ 3.14", /* OK */
"(((((((1+2+3**(4 + 5))))))", /* bad parens */
"a^(b + c/d * .1e5)!", /* unknown op */
"(1**2)**3", /* OK */
0
};
if (!init()) return 1;
for (i = 0; tests[i]; i++) {
printf("Testing string `%s' <enter>\n", tests[i]);
getchar();
printf("string `%s': %s\n\n", tests[i],
parse(tests[i]) ? "Ok" : "Error");
}
return 0;
}