在Python中无需解压缩即可计算zip内容的CRC32,MD5和SHA1

时间:2017-05-22 03:55:30

标签: python hash md5 sha1 crc32

我需要在不解压缩的情况下计算zip文件内容的CRC32,MD5和SHA1。

到目前为止,我发现了如何计算zip文件本身,例如:

CRC32:

import zlib


zip_name = "test.zip"


def Crc32Hasher(file_path):

    buf_size = 65536
    crc32 = 0

    with open(file_path, 'rb') as f:
        while True:
            data = f.read(buf_size)
            if not data:
                break
            crc32 = zlib.crc32(data, crc32)

    return format(crc32 & 0xFFFFFFFF, '08x')


print(Crc32Hasher(zip_name))

SHA1:(类似地,MD5)

import hashlib


zip_name = "test.zip"


def Sha1Hasher(file_path):

    buf_size = 65536
    sha1 = hashlib.sha1()

    with open(file_path, 'rb') as f:
        while True:
            data = f.read(buf_size)
            if not data:
                break
            sha1.update(data)

    return format(sha1.hexdigest())


print(Sha1Hasher(zip_name))

对于zip文件的内容,我可以直接从zip中读取CRC32,无需计算如下:

阅读zip内容的CRC32:

import zipfile

zip_name = "test.zip"

if zip_name.lower().endswith(('.zip')):
    z = zipfile.ZipFile(zip_name, "r")

for info in z.infolist():

    print(info.filename,
          format(info.CRC & 0xFFFFFFFF, '08x'))

但我无法弄清楚如何计算zip文件内容的SHA1(或MD5)而不先解压缩它们。 这有可能吗?

1 个答案:

答案 0 :(得分:5)

这是不可能的。您可以获取CRC,因为在创建存档时它会被仔细预先计算(用于完整性检查)。任何其他校验和/散列必须从头开始计算,并且至少需要存档内容的流式传输,即解包。

UPD :Possibble实施

libarchive:额外的依赖项,支持多种存档格式

import libarchive.public as libarchive
with libarchive.file_reader(fname) as archive:
    for entry in archive:
        md5 = hashlib.md5()
        for block in entry.get_blocks():
            md5.update(block)
        print(str(entry), md5.hexdigest())

原生zipfile:无依赖关系,仅限拉链

import zipfile

archive = zipfile.ZipFile(fname)
blocksize = 1024**2  #1M chunks
for fname in archive.namelist():
    entry = archive.open(fname)
    md5 = hashlib.md5()
    while True:
        block = entry.read(blocksize)
        if not block:
            break
        md5.update(block)
    print(fname, md5.hexdigest())