在unicode字符串中转换字节字符串

时间:2012-12-12 10:37:36

标签: python string unicode python-3.x type-conversion

我有一个代码:

a = "\u0432"
b = u"\u0432"
c = b"\u0432"
d = c.decode('utf8')

print(type(a), a)
print(type(b), b)
print(type(c), c)
print(type(d), d)

输出:

<class 'str'> в
<class 'str'> в
<class 'bytes'> b'\\u0432'
<class 'str'> \u0432

为什么在后一种情况下我会看到一个字符代码,而不是字符? 我如何将Byte字符串转换为Unicode字符串,在输出的情况下,我看到了字符而不是代码?

2 个答案:

答案 0 :(得分:41)

在字符串(或Python 2中的Unicode对象)中,\u具有特殊含义,即说“这里是由Unicode ID指定的Unicode字符”。因此u"\u0432"将导致字符в。

b''前缀告诉您这是一个8位字节的序列,而bytes对象没有Unicode字符,因此\u代码没有特殊含义。因此,b"\u0432"只是字节\u0432的序列。

基本上,你有一个8位字符串,不包含Unicode字符,但是包含Unicode字符的规范。

您可以使用unicode转义编码器转换此规范。

>>> c.decode('unicode_escape')
'в'

答案 1 :(得分:1)

喜欢Lennart的回答。它让我走上了解决我所面临的特殊问题的正确轨道。我添加的是能够为\ u ????生成兼容html的代码字符串中的规范。基本上,只需要一行:

results = results.replace('\\u','&#x')

这一切都是因为需要将JSON结果转换为在浏览器中显示良好的结果。以下是与云应用程序集成的一些测试代码:

# References:
# http://stackoverflow.com/questions/9746303/how-do-i-send-a-post-request-as-a-json
# https://docs.python.org/3/library/http.client.html
# http://docs.python-requests.org/en/v0.10.7/user/quickstart/#custom-headers
# http://stackoverflow.com/questions/606191/convert-bytes-to-a-python-string
# http://www.w3schools.com/charsets/ref_utf_punctuation.asp
# http://stackoverflow.com/questions/13837848/converting-byte-string-in-unicode-string

import urllib.request
import json

body = [ { "query": "co-development and language.name:English", "page": 1, "pageSize": 100 } ]
myurl = "https://core.ac.uk:443/api-v2/articles/search?metadata=true&fulltext=false&citations=false&similar=false&duplicate=false&urls=true&extractedUrls=false&faithfulMetadata=false&apiKey=SZYoqzk0Vx5QiEATgBPw1b842uypeXUv"
req = urllib.request.Request(myurl)
req.add_header('Content-Type', 'application/json; charset=utf-8')
jsondata = json.dumps(body)
jsondatabytes = jsondata.encode('utf-8') # needs to be bytes
req.add_header('Content-Length', len(jsondatabytes))
print ('\n', jsondatabytes, '\n')
response = urllib.request.urlopen(req, jsondatabytes)
results = response.read()
results = results.decode('utf-8')
results = results.replace('\\u','&#x') # produces html hex version of \u???? unicode characters
print(results)