一种解析sexp的优雅方式

时间:2014-05-25 10:59:39

标签: parsing ocaml s-expression

sexp 是这样的:type sexp = Atom of string | List of sexp list,例如"((a b) ((c d) e) f)"

我编写了一个解析器来将sexp字符串解析为类型:

let of_string s =
  let len = String.length s in
  let empty_buf () = Buffer.create 16 in
  let rec parse_atom buf i =
    if i >= len then failwith "cannot parse"
    else 
      match s.[i] with 
      | '(' -> failwith "cannot parse"
      | ')' -> Atom (Buffer.contents buf), i-1
      | ' ' -> Atom (Buffer.contents buf), i
      | c when i = len-1 -> (Buffer.add_char buf c; Atom (Buffer.contents buf), i)
      | c -> (Buffer.add_char buf c; parse_atom buf (i+1))
  and parse_list acc i =
    if i >= len || (i = len-1 && s.[i] <> ')') then failwith "cannot parse"
    else 
      match s.[i] with
      | ')' -> List (List.rev acc), i
      | '(' -> 
        let list, j = parse_list [] (i+1) in
        parse_list (list::acc) (j+1)
      | c -> 
        let atom, j = parse_atom (empty_buf()) i in
        parse_list (atom::acc) (j+1)
  in 
  if s.[0] <> '(' then
    let atom, j = parse_atom (empty_buf()) 0 in
    if j = len-1 then atom
    else failwith "cannot parse"
  else 
    let list, j = parse_list [] 1 in
    if j = len-1 then list
    else failwith "cannot parse"

但我觉得它太冗长和丑陋。

有人可以用优雅的方式帮助我编写这样的解析器吗?

实际上,我在编写解析器代码方面总是遇到问题,而我只能编写一个如此丑陋的代码。

这种解析的任何技巧?如何有效地处理意味着递归解析的符号,例如()

1 个答案:

答案 0 :(得分:7)

您可以使用词法分析器+解析器规则将词法语法(主要是跳过空格)的细节与实际语法结构分开。对于这样一个简单的语法来说,这似乎有些过分,但是一旦你解析的数据出现错误的机会,它实际上会更好:你真的想要错误定位(而不是自己实现它)。

一种简单且提供短解析器的技术是使用流解析器(使用Developping Applications with Objective Caml书中描述的Camlp4扩展);你甚至可以使用Genlex模块免费获得词法分析器。

如果您想真正手动执行,如上例所示,我建议您使用一个很好的解析器结构。使用以下接口为每个语法类别提供相互递归的解析器:

  • 解析器将开始解析的索引作为输入
  • 他们返回一对解析后的值和第一个索引不是值的一部分
  • 仅此而已

您的代码不尊重此结构。例如,如果原子的解析器看到(,则它将失败。这不是他的角色和责任:它应该只考虑这个角色不是原子的一部分,并返回原子解析的那么远,表明这个位置不再存在于原子中。

以下是此语法的代码示例。我已将解析器与三元组(start_fooparse_foofinish_foo)中的累加器分开,以分解多个起点或返回点,但这只是一个实现细节。

我使用4.02的新功能只是为了好玩,match with exception,而不是显式测试字符串的结尾。回归到不那么花哨的东西当然是微不足道的。

最后,如果有效表达式在输入结束之前结束,则当前解析器不会失败,它只返回侧面输入的结尾。这对测试很有帮助,但无论如何,你都会在“生产”中做不同的事情。

let of_string str =
  let rec parse i =
    match str.[i] with
      | exception _ -> failwith "unfinished input"
      | ')' -> failwith "extraneous ')'"
      | ' ' -> parse (i+1)
      | '(' -> start_list (i+1)
      | _ -> start_atom i
  and start_list i = parse_list [] i
  and parse_list acc i =
    match str.[i] with
      | exception _ -> failwith "unfinished list"
      | ')' -> finish_list acc (i+1)
      | ' ' -> parse_list acc (i+1)
      | _ ->
        let elem, j = parse i in
        parse_list (elem :: acc) j
  and finish_list acc i =
    List (List.rev acc), i
  and start_atom i = parse_atom (Buffer.create 3) i
  and parse_atom acc i =
    match str.[i] with
      | exception _ -> finish_atom acc i
      | ')' | ' ' -> finish_atom acc i
      | _ -> parse_atom (Buffer.add_char acc str.[i]; acc) (i + 1)
  and finish_atom acc i =
    Atom (Buffer.contents acc), i
  in
  let result, rest = parse 0 in
  result, String.sub str rest (String.length str - rest)

请注意,在解析有效表达式时(在读取至少一个原子或列表时)或解析列表(必须已经遇到右括号)时到达输入结尾是错误的,但它是在原子的末尾有效。

此解析器不返回位置信息。所有真实世界的解析器都应该这样做,这足以成为使用词法分析器/解析器方法(或您首选的monadic解析器库)而不是手动执行的理由。但是,返回位置信息并不是非常困难,只需将i参数复制到当前解析字符的索引中,另一方面复制用于当前AST节点的第一个索引,另一方面;每当您生成结果时,该位置就是一对(first indexlast valid index)。