Question

我正在堕入unicode地狱。

我在unix上的环境，python 2.7.3

LC_CTYPE=zh_TW.UTF-8
LANG=en_US.UTF-8

我正在尝试以人类可读格式转储十六进制编码数据，这里是简化代码

#! /usr/bin/env python
# encoding:utf-8
import sys

s=u"readable\n"  # previous result keep in unicode string
s2="fb is not \xfb"  # data read from binary file
s += s2

print s   # method 1
print s.encode('utf-8')  # method 2
print s.encode('utf-8','ignore')  # method 3
print s.decode('iso8859-1')  # method 4

# method 1-4 display following error message
#UnicodeDecodeError: 'ascii' codec can't decode byte 0xfb 
# in position 0: ordinal not in range(128)

f = open('out.txt','wb')
f.write(s)

我只想打印出0xfb。

我应该在这里描述一下。关键是's + = s2'。 s将保留我之前解码的字符串。并且s2是下一个应该附加到s中的字符串。

如果我修改如下，它会发生在写文件上。

s=u"readable\n"
s2="fb is not \xfb"
s += s2.decode('cp437')
print s
f=open('out.txt','wb')
f.write(s)
# UnicodeEncodeError: 'ascii' codec can't encode character
# u'\u221a' in position 1: ordinal not in range(128)

我希望out.txt的结果是

readable
fb is not \xfb

或

readable
fb is not 0xfb

[解决]

#! /usr/bin/env python
# encoding:utf-8
import sys
import binascii

def fmtstr(s):
    r = ''
    for c in s:
        if ord(c) > 128:
            r = ''.join([r, "\\x"+binascii.hexlify(c)])
        else:
            r = ''.join([r, c])
    return r

s=u"readable"
s2="fb is not \xfb"
s += fmtstr(s2)
print s
f=open('out.txt','wb')
f.write(s)

Answer 1

我强烈怀疑您的代码实际上是在前一行中出错：s += s2。 s2只是一系列字节，不能随意添加到unicode对象（而是一系列代码点）。

如果您打算将'\ xfb'表示为U+FB，LATIN SMALL LETTER U WITH CIRCUMFLEX，那么最好像这样分配它：

s2 = u"\u00fb"

但是你说你只想打印出控制字符的\ xHH代码。如果你只是想让它成为人类可以理解的东西，这仍然表明特殊字符在一个字符串中，那么repr就足够了。首先，不要将s作为unicode对象，因为您在这里将字符串视为一系列字节，而不是一系列代码点。

s = s.encode('utf-8')
s += s2

print repr(s)

最后，如果你不想在repr添加的外部引用额外的引号，为了漂亮的漂亮打印或其他什么，在Python中我没有一种简单的内置方法（我知道）。我以前用过这样的东西：

import re
controlchars_re = re.compile(r'[\x00-\x31\x7f-\xff]')

def _show_control_chars(match):
    txt = repr(match.group(0))
    return txt[1:-1]

def escape_special_characters(s):
    return controlchars_re.sub(_show_control_chars, s.replace('\\', '\\\\'))

您可以非常轻松地调整controlchars_re正则表达式，以定义您关心转义的字符。

如何在python中打印出0xfb

1 个答案: