Question

众所周知，Redis使用CRC16算法将密钥映射到散列槽。是否可以安全地假设crc使用某种“分布”来为节点分配密钥？如果是，那是什么样的分布？

此外，通过每个键上的哈希函数，我们能否确保我们在节点上有关于键数量的均匀负载？假设客户端在3节点集群中随机进行3000次插入。之后，键将均匀分布在节点中（M1≈1000，M2≈1000，M3≈1000）？

为了测试这些，我在python中创建了一个函数：

list1= []
list2= []
list3= []

def RedisClusterCRC16(keysslot):

    XMODEMCRC16Lookup = [
        0x0000, 0x1021, 0x2042, 0x3063, 0x4084, 0x50a5, 0x60c6, 0x70e7,
        0x8108, 0x9129, 0xa14a, 0xb16b, 0xc18c, 0xd1ad, 0xe1ce, 0xf1ef,
        0x1231, 0x0210, 0x3273, 0x2252, 0x52b5, 0x4294, 0x72f7, 0x62d6,
        0x9339, 0x8318, 0xb37b, 0xa35a, 0xd3bd, 0xc39c, 0xf3ff, 0xe3de,
        0x2462, 0x3443, 0x0420, 0x1401, 0x64e6, 0x74c7, 0x44a4, 0x5485,
        0xa56a, 0xb54b, 0x8528, 0x9509, 0xe5ee, 0xf5cf, 0xc5ac, 0xd58d,
        0x3653, 0x2672, 0x1611, 0x0630, 0x76d7, 0x66f6, 0x5695, 0x46b4,
        0xb75b, 0xa77a, 0x9719, 0x8738, 0xf7df, 0xe7fe, 0xd79d, 0xc7bc,
        0x48c4, 0x58e5, 0x6886, 0x78a7, 0x0840, 0x1861, 0x2802, 0x3823,
        0xc9cc, 0xd9ed, 0xe98e, 0xf9af, 0x8948, 0x9969, 0xa90a, 0xb92b,
        0x5af5, 0x4ad4, 0x7ab7, 0x6a96, 0x1a71, 0x0a50, 0x3a33, 0x2a12,
        0xdbfd, 0xcbdc, 0xfbbf, 0xeb9e, 0x9b79, 0x8b58, 0xbb3b, 0xab1a,
        0x6ca6, 0x7c87, 0x4ce4, 0x5cc5, 0x2c22, 0x3c03, 0x0c60, 0x1c41,
        0xedae, 0xfd8f, 0xcdec, 0xddcd, 0xad2a, 0xbd0b, 0x8d68, 0x9d49,
        0x7e97, 0x6eb6, 0x5ed5, 0x4ef4, 0x3e13, 0x2e32, 0x1e51, 0x0e70,
        0xff9f, 0xefbe, 0xdfdd, 0xcffc, 0xbf1b, 0xaf3a, 0x9f59, 0x8f78,
        0x9188, 0x81a9, 0xb1ca, 0xa1eb, 0xd10c, 0xc12d, 0xf14e, 0xe16f,
        0x1080, 0x00a1, 0x30c2, 0x20e3, 0x5004, 0x4025, 0x7046, 0x6067,
        0x83b9, 0x9398, 0xa3fb, 0xb3da, 0xc33d, 0xd31c, 0xe37f, 0xf35e,
        0x02b1, 0x1290, 0x22f3, 0x32d2, 0x4235, 0x5214, 0x6277, 0x7256,
        0xb5ea, 0xa5cb, 0x95a8, 0x8589, 0xf56e, 0xe54f, 0xd52c, 0xc50d,
        0x34e2, 0x24c3, 0x14a0, 0x0481, 0x7466, 0x6447, 0x5424, 0x4405,
        0xa7db, 0xb7fa, 0x8799, 0x97b8, 0xe75f, 0xf77e, 0xc71d, 0xd73c,
        0x26d3, 0x36f2, 0x0691, 0x16b0, 0x6657, 0x7676, 0x4615, 0x5634,
        0xd94c, 0xc96d, 0xf90e, 0xe92f, 0x99c8, 0x89e9, 0xb98a, 0xa9ab,
        0x5844, 0x4865, 0x7806, 0x6827, 0x18c0, 0x08e1, 0x3882, 0x28a3,
        0xcb7d, 0xdb5c, 0xeb3f, 0xfb1e, 0x8bf9, 0x9bd8, 0xabbb, 0xbb9a,
        0x4a75, 0x5a54, 0x6a37, 0x7a16, 0x0af1, 0x1ad0, 0x2ab3, 0x3a92,
        0xfd2e, 0xed0f, 0xdd6c, 0xcd4d, 0xbdaa, 0xad8b, 0x9de8, 0x8dc9,
        0x7c26, 0x6c07, 0x5c64, 0x4c45, 0x3ca2, 0x2c83, 0x1ce0, 0x0cc1,
        0xef1f, 0xff3e, 0xcf5d, 0xdf7c, 0xaf9b, 0xbfba, 0x8fd9, 0x9ff8,
         0x6e17, 0x7e36, 0x4e55, 0x5e74, 0x2e93, 0x3eb2, 0x0ed1, 0x1ef0
    ]

    crc = 0
    for byte in keysslot.encode( "utf-8" ):
        crc = ((crc << 8) & 0xff00) ^ XMODEMCRC16Lookup[((crc >> 8) &  0xff) ^ ord( byte )]





    metr1=0
    metr2=0
    metr3=0

    if ((crc & 0xffff)% 16384) <= 5460:
        metr1 = metr1+1
        list1.append(metr1)
    elif  (((crc & 0xffff)% 16384) > 5460) and (((crc & 0xffff)% 16384) <= 10922):
        metr2 = metr2+1
        list2.append(metr2)
    else:
        metr3 = metr3+1
        list3.append(metr3)





for i in range(2000000):
    RedisClusterCRC16(str(i))


print "M1 holds: ", sum(list1)
print "M2 holds: ", sum(list2)
print "M3 holds: ", sum(list3)

输入2000000时，结果为：

M1 holds:  666625
M2 holds:  666744
M3 holds:  666631

我观察到每个节点上的插槽分布几乎相等（本例中为伪节点）。

Answer 1

搜索后我发现了证据：

哈希函数将键映射到小整数（存储桶）。理想的散列函数以类似随机的方式将键映射到整数，这样即使输入数据中存在规律性，也可以均匀分布存储桶值。

这个过程可分为两个步骤：

将键映射到整数。
将整数映射到存储桶。

另外，这里：https://github.com/angular-ui/ui-router/pull/1809，解释Uniformity并说“只要哈希范围大小为n，此方法（ crc ）可以产生足够均匀的哈希值分布与校验和或指纹函数的范围相比较小。“

考虑到这一点以及上面的执行代码，很明显crc可以产生哈希值的统一分布。

Answer 2

众所周知，Redis使用CRC16算法将密钥映射到哈希槽。是否可以安全地假设crc使用某种“分发”来为节点分配密钥？

不！它不会分发密钥。

取决于您使用的是哪种客户端库，密钥的数据类型可能会有所不同（例如String，Byte Array等），但是所有人都应该具有通用的实现以兑现Redis集群，并且可以使用任何给定的密钥经过CRC16算法生成散列，然后采用mod 16384来确定密钥槽。

HASH_SLOT = CRC16(key) mod 16384

它仅用于确定密钥槽，并且可能没有任何逻辑可分配基于可用节点数的密钥。

参考-https://redis.io/topics/cluster-spec

Redis哈希函数和数据分区

2 个答案: