为给定的正则表达式创建所有可能匹配的集合

时间:2011-09-30 19:09:02

标签: php regex algorithm language-agnostic dfa

我想知道如何使用有限数量的匹配找到给定正则表达式的所有匹配项。

例如:

所有这些示例都可以假设它们以^开头,以$

结尾
`hello?` -> (hell, hello)
`[1-9][0-9]{0,3}` -> (1,2,3 ..., 9998, 9999)
`My (cat|dog) is awesome!` -> (My cat is awesome!, My dog is awesome!)
`1{1,10}` -> (1,11, ..., 111111111, 1111111111)
`1*` -> //error
`1+` -> //error
`(1|11){2}` -> (1,11,111,1111) //notice how it doesn't repeat any of the possibilities

如果有一种方法可以检索计算正则表达式的唯一解,或者是否有办法确定正则表达式是否有一个有限的解决方案,我也会感兴趣。

如果算法可以解析任何正则表达式会很好,但强大的正则表达式的强大子集就可以了。

我对这个问题的PHP解决方案感兴趣,但其他语言也没问题。

编辑:

我在我的Formal Theory课程中学到了DFA可以用来实现正则表达式(以及其他常规语言)。如果我可以将正则表达式转换为DFA,那么解决方案对我来说似乎相当直接,但这种转变对我来说似乎相当棘手。

编辑2:

感谢所有的建议,see my post about the public github project我正在努力“回答”这个问题。

5 个答案:

答案 0 :(得分:3)

从正则表达式到DFA的转换非常简单。但是,您将遇到的问题是,生成的DFA可以包含循环(例如,*+),这将使其无法完全展开。此外,无法在DFA中干净地表示{n,n},因为DFA没有“记忆”它循环的次数。

这个问题的解决方案将归结为构建一个标记和解析正则表达式的函数,然后返回所有可能匹配的数组。在这里使用递归将帮助您很多

伪代码的起点可能如下:

to GenerateSolutionsFor(regex):
    solutions = [""]
    for token in TokenizeRegex(regex):
        if token.isConstantString:
            for sol in solutions: sol.append(token.string)
        else if token.isLeftParen:
            subregex = get content until matching right paren
            subsols = GenerateSolutionsFor(subregex)
            for sol in solutions:
                for subsol in subsols:
                    sol.append(subsol)
        else if token.isVerticalBar:
            solutions.add(GenerateSolutionsFor(rest of the regex))
        else if token.isLeftBrace:
            ...

答案 1 :(得分:2)

  

我想知道如何使用有限数量的匹配找到给定正则表达式的所有匹配集合。

因为您只考虑表示有限语言的正则表达式,所以实际考虑字母表上的正则表达式的子集。特别是,您没有处理使用Kleene星运算符构造的正则表达式。这表明了一种简单的递归算法,用于构造由正则表达式表示的字符串集,而不是字母Σ上的Kleene星。

LANG(a)     = {a} for all a ∈ Σ
LANG(x ∪ y) = LANG(x) ∪ LANG(y)
LANG(xy)    = {vw : v ∈ LANG(x) ∧ w ∈ LANG(y)}

考虑一个正则表达式,例如a(b ∪ c)d。这正是你的猫狗结构的例子。执行算法将正确地确定正则表达式表示的语言:

LANG(a((b ∪ c)d)) = {xy : x ∈ LANG(a) ∧ y ∈ LANG((b ∪ c)d)}
                  = {xy : x ∈ {a} ∧ y ∈ {vw : v ∈ LANG(b ∪ c) ∧ w ∈ LANG{d}}}
                  = {ay : y ∈ {vw : v ∈ (LANG(b) ∪ LANG(c)) ∧ w ∈ {d}}}
                  = {ay : y ∈ {vd : v ∈ {b} ∪ {c}}
                  = {ay : y ∈ {vd : v ∈ {b,c}}}
                  = {ay : y ∈ {bd, cd}}
                  = {abd, acd}

您还会问是否有一种算法可以确定常规语言是否有限。该算法在于构造接受语言的确定性有限自动机,然后确定转换图是否包含从开始状态到包含循环的最终状态的步行。请注意,在没有Kleene星的情况下构造的正则表达式子集表示有限语言。由于有限集的并集和连接是有限的,因此易于归纳。

答案 2 :(得分:0)

这可能无法满足您的所有问题/需求,但也许这是一个很好的起点。我正在寻找一个自动生成数据的解决方案,它与前一段时间的regexp相匹配,我发现这个perl模块Parse :: RandGen,Parse :: RandGen :: RegExp,它对我的​​需求非常有效:

http://metacpan.org/pod/Parse::RandGen

答案 3 :(得分:0)

您可能希望查看此Regex库,它解析RegEx语法(尽管与perl标准略有不同)并可以从中构建DFA:http://www.brics.dk/automaton/

答案 4 :(得分:0)

我已经开始研究solution on Github了。它已经可以解释大多数示例并为有限正则表达式提供解决方案。

目前通过了以下单元测试。

<?php

class RegexCompiler_Tests_MatchTest extends PHPUnit_Framework_TestCase
{

    function dataProviderForTestSimpleRead()
    {
        return array(
            array( "^ab$", array( "ab" ) ),
            array( "^(ab)$", array( "ab" ) ),
            array( "^(ab|ba)$", array( "ab", "ba" ) ),
            array( "^(ab|(b|c)a)$", array( "ab", "ba", "ca" ) ),
            array( "^(ab|ba){0,2}$", array( "", "ab", "ba", "abab", "abba", "baab", "baba" ) ),
            array( "^(ab|ba){1,2}$", array( "ab", "ba", "abab", "abba", "baab", "baba" ) ),
            array( "^(ab|ba){2}$", array( "abab", "abba", "baab", "baba" ) ),
            array( "^hello?$", array( "hell", "hello" ) ),
            array( "^(0|1){3}$", array( "000", "001", "010", "011", "100", "101", "110", "111" ) ),
            array( "^[1-9][0-9]{0,1}$", array_map( function( $input ) { return (string)$input; }, range( 1, 99 ) ) ),
            array( '^\n$', array( "\n" ) ),
            array( '^\r$', array( "\r" ) ),
            array( '^\t$', array( "\t" ) ),
            array( '^[\\\\\\]a\\-]$', array( "\\", "]", "a", "-" ) ), //the regex is actually '^[\\\]a\-]$' after PHP string parsing
            array( '^[\\n-\\r]$', array( chr( 10 ), chr( 11 ), chr( 12 ), chr( 13 ) ) ),
        );
    }

    /**
     * @dataProvider dataProviderForTestSimpleRead
     */

    function testSimpleRead( $regex_string, $expected_matches_array )
    {
        $lexer = new RegexCompiler_Lexer();
        $actualy_matches_array = $lexer->lex( $regex_string )->getMatches();
        sort( $actualy_matches_array );
        sort( $expected_matches_array );
        $this->assertSame( $expected_matches_array, $actualy_matches_array );
    }

}

?>

我想构建一个可以处理无限列表的MatchIterator类,以及一个可以从正则表达式中随机生成匹配的类。我还想从匹配集中构建正则表达式,以优化查找或压缩数据。