正则表达式导致堆栈溢出

时间:2013-07-07 21:28:17

标签: c++ regex c++11 stack-overflow standard-library

继我之前的问题:ECMAScript Regex for a multilined string之后,我实施了以下加载程序:

void Load( const std::string& szFileName )
{
     static const std::regex regexObject( "=== ([^=]+) ===\\n((?:.|\\n)*)\\n=== END \\1 ===", std::regex_constants::ECMAScript | std::regex_constants::optimize );
     static const std::regex regexData( "<([^>]+)>:([^<]*)\\n", std::regex_constants::ECMAScript | std::regex_constants::optimize );

     std::ifstream inFile( szFileName );
     inFile.exceptions( std::ifstream::badbit );

     std::string szFileData( (std::istreambuf_iterator<char>(inFile)), (std::istreambuf_iterator<char>()) );

     inFile.close();

     std::vector<std::future<void>> vecFutures;

     for( std::sregex_iterator itObject( szFileData.cbegin(), szFileData.cend(), regexObject ), end; itObject != end; ++itObject )
     {
          if( (*itObject)[1] == "OBJECT1" )
          {
               vecFutures.emplace_back( std::async( []( std::string szDataString ) {
                    for( std::sregex_iterator itData( szDataString.cbegin(), szDataString.cend(), regexData ) { // Do Stuff }
               }, (*itObject)[2].str() ) );
          }
          else if( (*itObject)[1] == "OBJECT2" )
          {
               vecFutures.emplace_back( std::async( []( std::string szDataString ) {
                    for( std::sregex_iterator itData( szDataString.cbegin(), szDataString.cend(), regexData ) { // Do Stuff }
               }, (*itObject)[2].str() ) );
          }
     }

     for( auto& future : vecFutures )
     {
          future.get();
     }
}

但是,使用此文件加载会导致堆栈溢出(参数:0x00000001,0x00332FE4):

=== OBJECT2 ===
<Name>:Test Manufacturer
<Supplier>:Test Supplier
<Address>:Test Multiline
Contact
Address
<Email>:test@test.co.uk
<Telephone Number>:0123456789
=== END OBJECT2 ===
=== OBJECT1 ===
<Number>:1
<Name>:Test
<Location>:Here
<Manufacturer>:
<Model Number>:12345
<Serial Number>:54321
<Owner>:Me
<IP Address>:0.0.0.0
=== END OBJECT1 ===

我一直无法找到Stack Overflow的源代码,但看起来外部std::sregex_iterator循环负责。

提前致谢!

4 个答案:

答案 0 :(得分:4)

神圣的灾难性回溯。罪魁祸首是(?:.|\\n)*。每当你看到这样的结构时,你就知道你在寻找麻烦。

为什么呢?因为你告诉引擎匹配任何字符(换行符除外)或换行符,尽可能多次匹配,或者没有。让我带你走过去。

引擎将按预期启动并与=== OBJECT2 === - 部分匹配,没有任何重大问题,将消耗换行符,然后地狱将开始。引擎消耗一切,一直到=== END OBJECT1 ===,并从那里回溯到合适的匹配。回溯基本上意味着返回一步并再次应用正则表达式以查看它是否有效。基本上用你的字符串尝试所有可能的排列。在您的情况下,这将导致少量十万次尝试。这可能就是为什么东西对你来说有问题。

我不知道您的代码是否更好或是否有任何错误,但(?:.|\\n)*与使用* s 撰写.*相同*单线修改器(点匹配换行符)或[\S\s]*。如果用我推荐的两个中的一个替换该构造,你将希望不再看到堆栈溢出错误。

编辑: 查看其他解决方案,我没有时间深入研究并为您的问题提供可靠的解决方案,除了解释为什么它如此糟糕。

答案 1 :(得分:4)

这是另一次尝试:

=== ([^=]+) ===\n((?:(?!===)[^\n]+\n)+)=== END \1 ===

在你的C ++中,显然会写成:

=== ([^=]+) ===\\n((?:(?!===)[^\\n]+\\n)+)=== END \\1 ===

这是为了最小的回溯(至少在匹配时),虽然我现在有点先生Tired-Face,所以可能错过了很多方法来改进它。

它使两个假设,用于避免大量的回溯(可能导致堆栈溢出,正如其他人所说):

  1. 除了开始/结束标记行之外,行的开头永远不会有===
  2. C ++支持这些正则表达式功能 - 特别是使用否定前瞻(?!)。应该考虑它的ECMAScript方言。
  3. <强>解释

    === ([^=]+) ===\n
    

    匹配并捕获对象开始标记。 [^=]是避免相对少量回溯的一种方法,与您的相同 - 我们没有使用[^ ],因为我不知道OBJECT ID中是否有空格。< / p>

    ((?:
    

    开始捕获数据组。在它内部,一个非捕获组,因为我们将分别匹配每一行。

       (?!===)
    

    否定前瞻 - 我们不希望在我们捕获的行的开头===

       [^\n]+\n
    

    单独匹配一行。

    )+)
    

    在开始和结束标记之间匹配至少一行,然后捕获单个组中的所有行。

    === END \1 ===
    

    匹配结束标记。

    比较(使用RegexBuddy):

    原始版本:

    • 第一场比赛:1277步
    • 匹配失败:1步(这是由于对象之间的换行)
    • 第二场比赛:396步

    每个添加的对象都会导致前一个步骤增加。例如,添加一个对象(对象2的副本,重命名为3)将导致:2203步,1322步,425步。

    此版本:

    • 第一场比赛:67步
    • 失败的匹配:1步(再次由于对象之间的换行)
    • 第二场比赛:72步
    • 失败的匹配:1步
    • 第三场比赛:67步

答案 2 :(得分:1)

你的表情似乎引起了大量的回溯。我会将你的表达式改为:

首先:^===\s+(.*?)\s+===[\r\n]+^(.*?)[\r\n]+^===\s+END\s+\1\s+===

第二:^<([^>]+)>:([^<]*)

这两个表达式都可以使用选项:Multiline和DotMatchesAll选项。通过包含行锚^的开头,它将回溯限制为最多一行或一组。

答案 3 :(得分:0)

请尝试使用此模式:

static const std::regex regexObject( "=== (\\S+) ===\\n((?:[^\\n]+|\\n(?!=== END \\1 ===))*)\\n=== END \\1 ===", std::regex_constants::ECMAScript | std::regex_constants::optimize );