概述

Question

我需要实现一个字符串搜索算法，该算法在位文本中找到位模式（匹配可能不是字节/字对齐）。对于初学者，我实现了Boyer-Moore算法，但比较单个位对于我的目的来说太慢了。所以我尝试实现一个基于阻塞的版本，它将比较this paper中描述的整个字节/单词，但它变得复杂且难以管理（部分原因是我不完全理解我在做什么。）

有没有人能很好地实现这样的算法？

我的具体用例是模式长度N >= 32，文本窗口2N和打包到int的位。在这种情况下，N也是字符大小N % 8 == 0的倍数。我预处理一次并多次使用更改文本，比如Boyer-Moore。第一场比赛就是我所需要的。表现是关键。

编辑：成功实施Blocked Boyer-Moore算法后，我发现没有任何改进（我的点滴版本更快！）这可能是我自己的错误，因为我一直在绞我的大脑并将其优化到没有多行评论就没有意义的程度，但它仍然较慢。 Here它是。

Answer 1

如果N很大（例如，大于16位）那么对位模式的8个移位副本进行初步搜索（截断模式以消除'部分字节'）将非常容易。然后，您可以通过查看相邻位来优化结果。字节搜索（针对8个移位的副本）可以使用Boyer-Moore或类似的高效算法完成。

如果您想知道：8字节搜索可能比一位搜索更快，因为每个字节比较只需要一条指令，而进行位搜索所需的位操作每位需要更多指令。但是，您应该始终确定配置文件。

Answer 2

概述

我是SO社区的新手，但我期待回馈一些东西。

有趣的问题。我把一个只进行基于字节的比较的实现（借助于预先计算的位模式和位掩码）放在一起，而不是在比较时执行昂贵的位操作。结果，它应该相当快。它没有实现为Boyer-Moore algorithm讨论的任何移位规则（性能优化），因此可以进一步改进。

虽然此实现确实依赖于模式位的数量％CHAR_BIT == 0 - 在8位机器上，符合N％8 == 0的条件，但实现将找到非字节对齐的位模式。（它目前还需要8位字符（CHAR_BIT == 8），但在不太可能的情况下，您的系统不使用8位字符，通过将所有数组/向量从uint8_t更改为char并调整，可以很容易地进行调整它们包含的值以反映正确的位数。）

鉴于搜索没有做任何比特（除了和预先计算的字节掩码），它应该是非常高效的。

算法摘要

简而言之，指定了要搜索的模式，并且实现将其移位一位并记录移位的模式。它还计算移位模式的掩码，对于非字节对齐的位模式，需要忽略比较开始和结束时的某些位以实现正确的行为。

搜索每个移位位置的所有模式位，直到找到匹配或达到数据缓冲区的末尾。

//
//  BitStringMatch.cpp
//

#include "stdafx.h"
#include <iostream>
#include <cstdint>
#include <vector>
#include <memory>
#include <cassert>

int _tmain(int argc, _TCHAR* argv[])
{
    //Enter text and pattern data as appropriate for your application.  This implementation assumes pattern bits % CHAR_BIT == 0
    uint8_t text[] = { 0xcc, 0xcc, 0xcc, 0x5f, 0xe0, 0x1f, 0xe0, 0x0c }; //1010 1010, 1010 1010, 1010 1010, 010*1 1111, 1110 0000, 0001 1111, 1110 0000, 000*0 1010 
    uint8_t pattern[] = { 0xff, 0x00, 0xff, 0x00 }; //Set pattern to 1111 1111, 0000 0000, 1111 1111, 0000 0000

    assert( CHAR_BIT == 8 ); //Sanity check
    assert ( sizeof( text ) >= sizeof( pattern ) ); //Sanity check

    std::vector< std::vector< uint8_t > > shiftedPatterns( CHAR_BIT, std::vector< uint8_t >( sizeof( pattern ) + 1, 0 ) );  //+1 to accomodate bit shifting of CHAR_BIT bits.
    std::vector< std::pair< uint8_t, uint8_t > > compareMasks( CHAR_BIT, std::pair< uint8_t, uint8_t >( 0xff, 0x00 ) );

    //Initialize pattern shifting through all bit positions
    for( size_t i = 0; i < sizeof( pattern ); ++i ) //Start by initializing the unshifted pattern
    {
        shiftedPatterns[ 0 ][ i ] = pattern[ i ];
    }

    for( size_t i = 1; i < CHAR_BIT; ++i )  //Initialize the other patterns, shifting the previous vector pattern to the right by 1 bit position
    {
        compareMasks[ i ].first >>= i;  //Set the bits to consider in the first...
        compareMasks[ i ].second = 0xff << ( CHAR_BIT - i ); //and last bytes of the pattern

        bool underflow = false;
        for( size_t j = 0; j < sizeof( pattern ) + 1; ++j )
        {
            bool thisUnderflow = shiftedPatterns[ i - 1 ][ j ] & 0x01 ? true : false; 
            shiftedPatterns[ i ][ j ] = shiftedPatterns[ i - 1][ j ] >> 1;

            if( underflow ) //Previous byte shifted out a 1; shift in a 1
            {
                shiftedPatterns[ i ][ j ] |= 0x80;  //Set MSb to 1
            }

            underflow = thisUnderflow;
        }
    }

    //Search text for pattern
    size_t maxTextPos = sizeof( text ) - sizeof( pattern );
    size_t byte = 0;
    bool match = false;
    for( size_t byte = 0; byte <= maxTextPos && !match; ++byte )
    {
        for( size_t bit = 0; bit < CHAR_BIT && ( byte < maxTextPos || ( byte == maxTextPos && bit < 1 ) ); ++bit )
        {
            //Compare first byte of pattern
            if( ( shiftedPatterns[ bit ][ 0 ] & compareMasks[ bit ].first ) != ( text[ byte ] & compareMasks[ bit ].first ) )
            {
                continue;
            }

            size_t foo = sizeof( pattern );
            //Compare all middle bytes of pattern
            bool matchInProgress = true;
            for( size_t pos = 1; pos < sizeof( pattern ) && matchInProgress; ++pos )
            {
                matchInProgress = shiftedPatterns[ bit ][ pos ] == text[ byte + pos ];
            }
            if( !matchInProgress )
            {
                continue;
            }

            if( bit != 0 )  //If compare failed or we're comparing the unshifted pattern, there's no need to compare final pattern buffer byte
            {
                if( ( shiftedPatterns[ bit ][ sizeof( pattern ) ] & compareMasks[ bit ].second ) != ( text[ byte + sizeof( pattern ) ] & compareMasks[ bit ].second ) )
                {
                    continue;
                };
            }

            //We found a match!
            match = true;   //Abandon search
            std::cout << "Match found!  Pattern begins at byte index " << byte << ", bit position " << CHAR_BIT - bit - 1 << ".\n";
            break;
        }
    }
    //If no match
    if( !match )
    {
        std::cout << "No match found.\n";
    }

    std::cout << "\nPress a key to exit...";
    std::getchar();

    return 0;
}

我希望这会有所帮助。

Answer 3

性能将高度依赖于位模式的类型。例如，如果“关键”位序列和“搜索”位序列高度不同，那么一些字节移位解决方案，甚至您的逐位解决方案都会非常快。因为在绝大多数位偏移中，第一次比较将失败，您可以继续进行下一次比较。

如果序列非常相似，那么您需要更复杂的算法。想象一下，例如100万比特都是10101010101010 ......除了中间的某个地方a 1被翻转为零，例如...... 101000101 ...而且你正在寻找以“... 101000”结尾的10k位序列，然后字节移位比较算法会做得很差，因为它们必须比较大量的字节--8次 - 才能失败匹配了五十万次。

因此，您的数据的统计特征非常重要。此外，如果多次使用键字符串，或者您希望多次匹配，那么预处理缓冲区可以加快速度。

例如，您可以将缓冲区转换一次，以将每对字节中的位数相加，并在每个字节中，然后对每个键字符串执行此操作。然后，您可以扫描两个缓冲区。对于可能匹配的字符串，密钥字符串的每个字节中的位数必须始终小于每个字节对中的位数，并且密钥字符串的每个字节对中的位数必须始终小于搜索字符串每个字节的位数。

如果您的密钥字符串很大，那么您可以标记低位和高位“锚点”并扫描那些。例如，我说我正在比较一个10k密钥字符串，它在偏移x，y，z处有两个0字节。然后我可以扫描我的搜索字符串中的位置，这些偏移的单个字节中的位数匹配为零。那会非常快。

匹配位串

3 个答案:

概述

算法摘要