python2,3中的pickle.dumps兼容性

时间:2014-10-12 04:34:35

标签: python pickle hashlib

我正在尝试编写一个函数来md5散列任何python对象。我希望在python2和python3中它返回相同的md5值。

我知道python3中的pickle.dumps,它返回字节,而在python2中,它返回str。如您所见,以下代码现在为我提供了相同的字符串:

print( [      pickle.dumps( obj, protocol = 2 )   ] ) # in python2
print( [ str( pickle.dumps( obj, protocol = 2 ) ) ] ) # in python3

两个都给了我:

['\x80\x02]q\x00(U\x011q\x01K\x02U\x013q\x02K\x04e.']

但问题是,在python3:

hashlib.md5.update( some_string )

必须编码。如果我在python3中编码字符串,那么它不会给我与python2中相同的md5值。谁能给我一个解决方案?谢谢你们。

这是我的代码:

from __future__ import print_function
import hashlib
import pickle
import sys

is_py2 = (sys.version_info[0] == 2)

obj = ['1',2,'3',4]
m = hashlib.md5()

if is_py2:                                                    # if it's python2
    print(    [      pickle.dumps( obj, protocol = 2 ) ] )
    m.update(        pickle.dumps( obj, protocol = 2 )   )
else:                                                         # if it's python3
    print(    [ str( pickle.dumps( obj, protocol = 2 ) ) ] )
    m.update(        pickle.dumps( obj, protocol = 2 ).encode( "utf-8" ) ) # I wish I could don not encode

print( m.hexdigest() )

2 个答案:

答案 0 :(得分:0)

1)pickle.dumps将返回一个字节字符串,因此您的打印错误。

2)如果由于某种原因你在unicode字符串上有这样的内容,你就不能使用多字节编解码器作为utf-8(默认值)。

foo = '\x80\x02]q\x00(U\x011q\x01K\x02U\x013q\x02K\x04e.'.encode('latin-1')

latin-1将具有1对1的映射,因此您将得到正确的字节。


PS:你为什么在打印内使用列表?也许你正在寻找print(repr(...))

答案 1 :(得分:0)

有一个单行代码可以进行2x和3x编码,你可以对任何编码进行编码。

>>> hashlib.new(algorithm, repr(object).encode()).hexdigest()

有关变量名称的完整上下文,请参阅:https://github.com/uqfoundation/klepto/blob/master/klepto/crypto.py#L26 ...并查看文件的其余部分,以获取有关编码,序列化等的更多抽象。所有工作都在python 2.x和3.x。

我看到你希望python 2.x和3.x返回相同的哈希值。嗯......我认为没有用。如果它有机会或在2.x中返回与3.x中相同的md5编码,则可能必须使用reprpickle(协议2)或别的第一个。

Python 2.7.8 (default, Jul 13 2014, 02:29:54) 
[GCC 4.2.1 Compatible Apple Clang 4.1 ((tags/Apple/clang-421.11.66))] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import klepto
>>> klepto.crypto.hash(klepto.crypto.pickle(object), algorithm='md5')
'ee16782749cb00e4b66922df545877f0'

所以,pickle和md5似乎不起作用,并且通常不应该因为某些对象在2.x和3.x之间发生了变化(例如object一个type现在它是class)。这也意味着repr或其他类似的东西也不会像编码器那样起作用。

Python 3.3.5 (default, Mar 10 2014, 21:37:38) 
[GCC 4.2.1 Compatible Apple Clang 4.1 ((tags/Apple/clang-421.11.66))] on darwin
Type "help", "copyright", "credits" or "license" for more information.
>>> import klepto
>>> klepto.crypto.hash(klepto.crypto.pickle(object), algorithm='md5')
'35eb4c374cafe09c8ac01661701b6b6e'

也许klepto的其中一个编码器可以为你效用。