在Python中使用正则表达式匹配嵌套结构

时间:2009-07-08 16:30:38

标签: python regex recursive-regex

我似乎记得DotNet中的正则表达式有一种特殊的机制,可以正确匹配嵌套结构,比如“( (a ( ( c ) b ) ) ( d ) e )”中的分组。

这个功能的python等价物是什么?这可以使用正则表达式实现一些解决方法吗? (虽然这似乎是当前正则表达式的实现不是为了设计的那种问题)

6 个答案:

答案 0 :(得分:21)

正则表达式不能解析嵌套结构。根据定义,嵌套结构不是常规的。它们不能用常规语法构造,并且它们不能被有限状态自动机解析(正则表达式可以看作是FSA的简写符号)。

今天的“正则表达式”引擎有时支持一些有限的“嵌套”结构,但从技术角度来看,它们不应再被称为“常规”。

答案 1 :(得分:19)

通常使用Python正则表达式不能这样做。 (.NET正则表达式已经使用“平衡组”进行了扩展,这是允许嵌套匹配的。)

然而,PyParsing对于这类事物来说是一个非常好的包:

from pyparsing import nestedExpr

data = "( (a ( ( c ) b ) ) ( d ) e )"
print nestedExpr().parseString(data).asList()

输出结果为:

[[['a', [['c'], 'b']], ['d'], 'e']]

有关PyParsing的更多信息:

答案 2 :(得分:14)

编辑: falsetru's nested parser,我稍微修改后接受任意正则表达式模式来指定分隔符和项目分隔符,比原始的re.Scanner解决方案更快更简单:

import re

def parse_nested(text, left=r'[(]', right=r'[)]', sep=r','):
    """ https://stackoverflow.com/a/17141899/190597 (falsetru) """
    pat = r'({}|{}|{})'.format(left, right, sep)
    tokens = re.split(pat, text)
    stack = [[]]
    for x in tokens:
        if not x or re.match(sep, x):
            continue
        if re.match(left, x):
            # Nest a new list inside the current list
            current = []
            stack[-1].append(current)
            stack.append(current)
        elif re.match(right, x):
            stack.pop()
            if not stack:
                raise ValueError('error: opening bracket is missing')
        else:
            stack[-1].append(x)
    if len(stack) > 1:
        print(stack)
        raise ValueError('error: closing bracket is missing')
    return stack.pop()

text = "a {{c1::group {{c2::containing::HINT}} a few}} {{c3::words}} or three"

print(parse_nested(text, r'\s*{{', r'}}\s*'))

产量

['a', ['c1::group', ['c2::containing::HINT'], 'a few'], ['c3::words'], 'or three']

嵌套结构无法与Python正则表达式单独匹配,但使用re.Scanner构建基本解析器(可以处理嵌套结构)非常容易:

import re

class Node(list):
    def __init__(self, parent=None):
        self.parent = parent

class NestedParser(object):
    def __init__(self, left='\(', right='\)'):
        self.scanner = re.Scanner([
            (left, self.left),
            (right, self.right),
            (r"\s+", None),
            (".+?(?=(%s|%s|$))" % (right, left), self.other),
        ])
        self.result = Node()
        self.current = self.result

    def parse(self, content):
        self.scanner.scan(content)
        return self.result

    def left(self, scanner, token):
        new = Node(self.current)
        self.current.append(new)
        self.current = new

    def right(self, scanner, token):
        self.current = self.current.parent

    def other(self, scanner, token):
        self.current.append(token.strip())

可以像这样使用:

p = NestedParser()
print(p.parse("((a+b)*(c-d))"))
# [[['a+b'], '*', ['c-d']]]

p = NestedParser()
print(p.parse("( (a ( ( c ) b ) ) ( d ) e )"))
# [[['a', [['c'], 'b']], ['d'], 'e']]

默认情况下NestedParser匹配嵌套括号。您可以传递其他正则表达式以匹配其他嵌套模式,例如括号[]For example

p = NestedParser('\[', '\]')
result = (p.parse("Lorem ipsum dolor sit amet [@a xxx yyy [@b xxx yyy [@c xxx yyy]]] lorem ipsum sit amet"))
# ['Lorem ipsum dolor sit amet', ['@a xxx yyy', ['@b xxx yyy', ['@c xxx yyy']]],
# 'lorem ipsum sit amet']

p = NestedParser('<foo>', '</foo>')
print(p.parse("<foo>BAR<foo>BAZ</foo></foo>"))
# [['BAR', ['BAZ']]]

当然,pyparsing可以比上面的代码做得更多。但是出于这个目的,上面的NestedParser对于小字符串来说快了大约5倍:

In [27]: import pyparsing as pp

In [28]: data = "( (a ( ( c ) b ) ) ( d ) e )"    

In [32]: %timeit pp.nestedExpr().parseString(data).asList()
1000 loops, best of 3: 1.09 ms per loop

In [33]: %timeit NestedParser().parse(data)
1000 loops, best of 3: 234 us per loop

对于较大的字符串,速度提高约28倍:

In [44]: %timeit pp.nestedExpr().parseString('({})'.format(data*10000)).asList()
1 loops, best of 3: 8.27 s per loop

In [45]: %timeit NestedParser().parse('({})'.format(data*10000))
1 loops, best of 3: 297 ms per loop

答案 3 :(得分:2)

Python不支持正则表达式中的递归。因此,Python中的.NET平衡组或PCRE正则表达式的等价物在Python中不可能立即实现。

就像你自己说的那样:这不是你应该用一个正则表达式解决的问题。

答案 4 :(得分:1)

我建议从正则表达式本身中删除嵌套,循环遍历结果并对其执行正则表达式。

答案 5 :(得分:0)

你在谈论递归吗?你的问题并不清楚。一个例子:

ActivePython 2.6.1.1 (ActiveState Software Inc.) based on
Python 2.6.1 (r261:67515, Dec  5 2008, 13:58:38) [MSC v.1500 32 bit (Intel)] on
win32
Type "help", "copyright", "credits" or "license" for more information.
>>> import re
>>> p = re.compile(r"((\w+((\d+)[.;]))(\s+)\d)")
>>> m = p.match("Fred99. \t9")
>>> m
<_sre.SRE_Match object at 0x00454F80>
>>> m.groups()
('Fred99. \t9', 'Fred99.', '9.', '9', ' \t')

这显示了嵌套组的匹配。组的编号取决于它们的左括号在模式中出现的顺序。