我有一些python字符串形式的文本代表外来名称:
Graziano Pellè
Sergio Agüero
Cesc Fàbregas
我用语法编码字符串:
(string).encode('utf-8')
然而这打印:
Graziano Pellè
Sergio Agüero
Cesc FÃ bregas
当字符串打印到Command Shell和Python Shell时会发生这种情况,但我不明白为什么。我的印象是通用字符集支持来自大多数主要语言的字母表。如果这不是正确的编码,我应该使用什么?
由于
答案 0 :(得分:6)
问题是您的终端窗口(我假设cmd.exe
,因为这听起来像Windows)不是UTF-8,而是像Windows-1252一样的类似Latin-1的字符集。
因此,您将这些Unicode字符串编码为UTF-8字节序列,然后将这些字符串发送到终端,终端将这些UTF-8字节序列解释为Windows-1252字节序列,并将它们显示为垃圾。
例如,u"Graziano Pellè"
在编码为UTF-8时为:
'Graziano Pell\xc3\xa8'
为什么呢?好吧,在UTF-8中,ASCII字符编码为一个字节,因此G
,即U + 0047,成为单个字节0x47
,在几乎任何字符集中看起来都像G
,但非ASCII字符编码为两个或更多字节,因此è
,即U + 00E8,变为0xc3
和0xa8
。在Windows-1252中,0xc3
是字符Ã
,0xa8
是字符¨
。
这里的简单解决方案 - 如果您的Python正确检测终端的字符集 - 就是直接打印Unicode字符串。
如果没有,你必须以某种方式查找字符集(或者只是硬编码,如果这仅用于本地使用;它可能是cp1252
,但你可以在你的系统偏好设置中找到它作为“OEM代码页”)并编码,而不是UTF-8。
最后一件事:
我的印象是通用字符集支持大多数主要语言的字母表。
确实如此。*但问题是您不能只将Unicode写入控制台;你必须写字节。**问题变成了,哪个字节?如果你写UTF-8字节,并且终端期望cp1252字节,你会得到mojibake。
*实际上,“通用字符集”通常意味着ISO-60464或UCS 2,而不是现代的Unicode ......但是对于前61K字符左右它们是相同的,所以让我们假装它足够接近... < /子>
**在Windows上实际上并非如此;你可以改为写16位字,并保证它们被解释为UTF-16。但是Python 2.x不知道如何以这种方式使用Windows控制台,所以这对你没有帮助,除非你想直接开始调用Win32 API,而不是使用像print
这样的友好的东西。