BloomFilter Python

时间:2012-01-26 22:38:22

标签: python

我是python的新手,并尝试基于Bit torrent BEP 33创建一个bloomFilter。 我创建了Bloom Filter,但它并不是我想要的。这就是我需要的东西,我还没有完全理解这种情况。如果有人在这里解释......

//fixed parameters

k = 2

m = 256*8

//the filter
byte[m/8] bloom   ## What is this part?

function insertIP(byte[] ip) {

    byte[20] hash = sha1(ip)

    int index1 = hash[0] | hash[1] << 8
    int index2 = hash[2] | hash[3] << 8

    // truncate index to m (11 bits required)
    index1 %= m  ## ?
    index2 %= m  ## ?

    // set bits at index1 and index2
    bloom[index1 / 8] |= 0x01 << index1 % 8   ## ??
    bloom[index2 / 8] |= 0x01 << index2 % 8   ## ??
 }

 // insert IP 192.168.1.1 into the filter:
 insertIP(byte[4] {192,168,1,1})

这就是我创造的

import hashlib
m = 2048
def hashes(s):
    index = [0, 0]
    #for c in s:
        #o = ord(c)
    index[0] = hashlib.sha224(index[0]).hexdigest ## This needs integer hash
    index[1] = hashlib.sha224(index[1]).hexdigest ## same as above 

    return [x % m for x in index]

class BloomFilter(object):
    def __init__(self):
        self.bitarray = [0] * m

    def add(self, s):
        for x in hashes(s):
            self.bitarray[x] = 1
        #print self.bitarray
    def query(self, s):
        return all(self.bitarray[x] == 1 for x in hashes(s))

shazib=BloomFilter()
shazib.add('192.168.0.1')
print shazib.query('192.168.0.1')

1 个答案:

答案 0 :(得分:5)

首先,解释代码......

//fixed parameters

k = 2

这对我来说是最令人困惑的一句话;完全没有使用k ......

m = 256*8

这是256个字节的位数。

//the filter
byte[m/8] bloom   ## What is this part?

bloom是256字节的数组,即256 * 8位,即m位。 bloom中的每个位都将包含有关过滤器中的值的信息。

function insertIP(byte[] ip) {

    byte[20] hash = sha1(ip)

这会创建一个20字节的ip哈希值。

    int index1 = hash[0] | hash[1] << 8
    int index2 = hash[2] | hash[3] << 8

这两行根据哈希值将两个索引计算为bloom。基本上,index1hash的前两个字节的串联,index2hash的后两个字节的串联。

    // truncate index to m (11 bits required)
    index1 %= m  ## ?
    index2 %= m  ## ?

这两行截断值,使它们不超过bloom的可能索引范围。 %是mod运算符;它会在除法后返回余数。 (17%4 = 1,22%5 = 2,依此类推。)请记住,bloom是256 * 8位长吗?十一位允许我们编码2 ** 11个可能的索引,即2048个值,即256 * 8个值。

    // set bits at index1 and index2
    bloom[index1 / 8] |= 0x01 << index1 % 8   ## ??
    bloom[index2 / 8] |= 0x01 << index2 % 8   ## ??

我们将bloom视为一个位数组,所以我们必须做一些比特操作才能访问正确的位。首先,将indexA除以8,得到正确的字节,然后使用indexA运算符截断%以获得该字节内的正确位。

}

// insert IP 192.168.1.1 into the filter:
insertIP(byte[4] {192,168,1,1})

瞧,我们有一个布隆过滤器。如果你按位打印它,它将如下所示:

data->    001011000101110011000001001000100...

indices-> 000000000011111111112222222222333...
          012345678901234567890123456789012...

如果某个特定的ip在哈希时生成index1 5index2 9,那么它将被视为“在”过滤器中,因为索引59的位设置为1。当然,可能存在误报,因为多个不同的值可能导致相同的指数;但不可能有误报。

import hashlib
m = 2048
def hashes(s):
    index = [0, 0]
    #for c in s:
        #o = ord(c)
    index[0] = hashlib.sha224(index[0]).hexdigest ## This needs integer hash
    index[1] = hashlib.sha224(index[1]).hexdigest ## same as above 

这是你的第一个问题。 index[0]index[1]需要是整数。此外,hashlib.sha224(index[0]).hexdigest返回一个方法。您必须调用该方法来获取任何内容,例如:hashlib.sha224(index[0]).hexdigest()。此外,如果您希望它以与上述代码相同的方式工作,您可以将散列转换为int(您可以使用int(x, 16)将十六进制字符串转换为整数)然后提取前两个使用& 65535的字节数,然后使用>> 16将其移位两个字节,然后再次使用& 65535提取这两个字节。一旦你有了正确的,其余的工作。

    return [x % m for x in index]

class BloomFilter(object):
    def __init__(self):
        self.bitarray = [0] * m

    def add(self, s):
        for x in hashes(s):
            self.bitarray[x] = 1
        #print self.bitarray
    def query(self, s):
        return all(self.bitarray[x] == 1 for x in hashes(s))

shazib=BloomFilter()
shazib.add('192.168.0.1')
print shazib.query('192.168.0.1')