Scala RegexParsers中的非贪婪匹配

时间:2011-10-18 19:33:38

标签: regex scala parser-generator non-greedy

假设我在Scala中编写了一个基本的SQL解析器。我有以下内容:

class Arith extends RegexParsers {
    def selectstatement: Parser[Any] = selectclause ~ fromclause
    def selectclause: Parser[Any] = "(?i)SELECT".r ~ tokens
    def fromclause: Parser[Any] = "(?i)FROM".r ~ tokens
    def tokens: Parser[Any] = rep(token) //how to make this non-greedy?
    def token: Parser[Any] = "(\\s*)\\w+(\\s*)".r
}

尝试将select语句与SELECT foo FROM bar匹配时,如何阻止选择语句因rep(token)中的~ tokens而吞噬整个短语?

换句话说,如何在Scala中指定非贪婪匹配?

为了澄清,我完全知道我可以在String模式本身中使用标准的非贪婪语法(*?)或(+?),但我想知道是否有办法在更高级别内部指定它def令牌。例如,如果我已经定义了这样的标记:

def token: Parser[Any] = stringliteral | numericliteral | columnname

那么如何为def标记内的rep(标记)指定非贪婪匹配?

1 个答案:

答案 0 :(得分:12)

不容易,因为不会重试成功的匹配。例如,考虑一下:

object X extends RegexParsers {
  def p = ("a" | "aa" | "aaa" | "aaaa") ~ "ab"
}

scala> X.parseAll(X.p, "aaaab")
res1: X.ParseResult[X.~[String,String]] = 
[1.2] failure: `ab' expected but `a' found

aaaab
 ^

第一场比赛成功,在括号内的解析器中,所以它继续进行下一场比赛。那个失败了,所以p失败了。如果p是替代匹配的一部分,那么将尝试替代方案,因此诀窍是生成可以处理这类事情的东西。

假设我们有这个:

def nonGreedy[T](rep: => Parser[T], terminal: => Parser[T]) = Parser { in =>
  def recurse(in: Input, elems: List[T]): ParseResult[List[T] ~ T] =
    terminal(in) match {
      case Success(x, rest) => Success(new ~(elems.reverse, x), rest)
      case _ => 
        rep(in) match {
          case Success(x, rest) => recurse(rest, x :: elems)
          case ns: NoSuccess    => ns
        }
    }

  recurse(in, Nil)
}  

然后您可以像这样使用它:

def p = nonGreedy("a", "ab")

顺便说一句,我总是发现,查看其他内容的定义有助于尝试提出上述nonGreedy之类的内容。特别是,看看如何定义rep1,以及如何更改它以避免重新评估其重复参数 - 同样的事情可能对nonGreedy有用。

这是一个完整的解决方案,只需稍加改动即可避免使用“终端”。

trait NonGreedy extends Parsers {
    def nonGreedy[T, U](rep: => Parser[T], terminal: => Parser[U]) = Parser { in =>
      def recurse(in: Input, elems: List[T]): ParseResult[List[T]] =
        terminal(in) match {
          case _: Success[_] => Success(elems.reverse, in)
          case _ => 
            rep(in) match {
              case Success(x, rest) => recurse(rest, x :: elems)
              case ns: NoSuccess    => ns
            }
        }

      recurse(in, Nil)
    }  
}

class Arith extends RegexParsers with NonGreedy {
    // Just to avoid recompiling the pattern each time
    val select: Parser[String] = "(?i)SELECT".r
    val from: Parser[String] = "(?i)FROM".r
    val token: Parser[String] = "(\\s*)\\w+(\\s*)".r
    val eof: Parser[String] = """\z""".r

    def selectstatement: Parser[Any] = selectclause(from) ~ fromclause(eof)
    def selectclause(terminal: Parser[Any]): Parser[Any] = 
      select ~ tokens(terminal)
    def fromclause(terminal: Parser[Any]): Parser[Any] = 
      from ~ tokens(terminal)
    def tokens(terminal: Parser[Any]): Parser[Any] = 
      nonGreedy(token, terminal)
}