了解Python Unicode和Linux终端

时间:2013-07-02 06:47:42

标签: python linux unicode cjk

我有一个Python脚本,用UTF-8编码写一些字符串。在我的脚本中,我主要使用str()函数来转换为字符串。它看起来像是:

mystring="this is unicode string:"+japanesevalues[1] 
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring

我不使用Python终端,只使用标准的Linux Red Hat x86_64终端。我将终端设置为输出utf8字符。

如果我执行此操作:

#python myscript.py
this is unicode string: カラダーズ ソフィー

但如果我这样做:

#python myscript.py > output

我遇到了典型的错误:

UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)

为什么?

2 个答案:

答案 0 :(得分:15)

终端有一个字符集,Python知道该字符集是什么,所以它会自动将你的Unicode字符串解码为终端使用的字节编码,在你的情况下是UTF-8。

但是当你重定向时,你不再使用终端了。你现在只是使用Unix管道。 Unix管道没有字符集,Python无法知道您现在想要的编码,因此它将回退到默认字符集。 您已使用“Python-3.x”标记了您的问题,但您的print语法是Python 2,因此我怀疑您实际上使用的是Python 2.然后您的sys.getdefaultencoding()通常是'ascii' ,在你的情况下,这绝对是这样。当然,您不能将日语字符编码为ASCII,因此会出错。

使用Python 2时最好的选择是在打印之前用UTF-8对字符串进行编码。然后重定向将起作用,结果文件为UTF-8。这意味着如果您的终端是其他东西,它将无法工作,但您可以从sys.stdout.encoding获取终端编码并使用它(在Python 2下重定向时它将是None)。

在Python 3中,您的代码应该按原样运行,但您需要将print mystring更改为print(mystring)

答案 1 :(得分:2)

如果它输出到终端,那么Python可以检查$LANG的值以选择一个字符集。如果您重定向,所有投注均已关闭。