Question

我正在尝试确定某些文件的数据一致性。但是，MD5的变化不同。当我执行md5sum时，哈希值相等：

import hashlib
import os
import sys

def hash_file_content(path):
    try:
        if not os.path.exists(path):
            raise IOError, "File does not exist"
        encode = hashlib.md5(path).hexdigest()
        return encode
    except Exception, e:
        print e

def main():
    hash1 = hash_file_content("./downloads/sample_file_1")
    hash2 = hash_file_content("./samples/sample_file_1")

    print hash1, hash2

if __name__ == "__main__":
   main()

输出意外地不同：

baed6a40f91ee5c44488ecd9a2c6589e 490052e9b1d3994827f4c7859dc127f0

现在使用md5sum：

md5sum ./samples/sample_file_1
9655c36a5fdf546f142ffc8b1b9b0d93  ./samples/sample_file_1

md5sum ./downloads/sample_file_1 
9655c36a5fdf546f142ffc8b1b9b0d93  ./downloads/sample_file_1

为什么会发生这种情况，我该如何解决这个问题？

Answer 1

在您的代码中，您正在计算文件路径的md5，而不是文件内容：

...
encode = hashlib.md5(path).hexdigest()
...

相反，计算文件内容的md5：

with open(path, "r") as f:
    encode = md5(f.read()).hexdigest()

这应该给你匹配的输出（即彼此之间的匹配，并且与md5sum的匹配。）

由于文件大小很大，单次执行f.read()会太费力，而且当文件大小超过可用内存时，它将无法正常工作。

相反，利用内部事实，md5使用其更新方法计算块上的哈希值，并定义一个使用md5.update的方法，并在代码中调用它，如{ {3}}：

import hashlib

def md5_for_file(filename, block_size=2**20):
    md5 = hashlib.md5()
    with open(filename, "rb") as f:
        while True:
            data = f.read(block_size)
            if not data:
                break
            md5.update(data)
    return md5.digest()

现在在您的代码中调用它：

encode = md5_for_file(path)

MD5返回不同的哈希码 - Python

1 个答案: