为什么我要做`sys.stdin = codecs.getreader(sys.stdin.encoding)(sys.stdin)`?

时间:2013-04-03 02:55:22

标签: python encoding locale

我正在编写一个python程序,其中包含所有输入(替换为非工作tr '[:lowers:]' '[:upper:]')。语言环境为ru_RU.UTF-8,我使用PYTHONIOENCODING=UTF-8设置STDIN / STDOUT编码。这正确设置了sys.stdin.encoding那么,如果sys.stdin已经知道编码,为什么还需要显式创建解码包装?如果我不创建包装阅读器,.upper()函数就不会正常工作(对非ASCII字符没有任何作用)。

import sys, codecs
sys.stdin = codecs.getreader(sys.stdin.encoding)(sys.stdin) #Why do I need this?
for line in sys.stdin:
    sys.stdout.write(line.upper())

如果stdin不使用.encoding,为什么会{{1}}?

1 个答案:

答案 0 :(得分:11)

要回答“为什么”,我们需要了解Python 2.x的内置file类型,file.encoding及其关系。

内置file对象处理原始字节---总是读写原始字节。

encoding属性描述了流中原始字节的编码。此属性可能存在也可能不存在,甚至可能不可靠(例如,我们在标准流的情况下错误地设置PYTHONIOENCODING。)

file对象执行任何自动转换的唯一时间是将unicode对象写入该流。在这种情况下,如果可用,它将使用file.encoding来执行转换。

在读取数据的情况下,文件对象不会进行任何转换,因为它返回原始字节。在这种情况下,encoding属性是用户手动执行转换的提示。

因为您设置了file.encoding变量并且相应地设置了PYTHONIOENCODING的{​​{1}}属性,因此设置了

sys.stdin。要获取文本流,我们必须像在示例代码中那样手动包装它。

以另一种方式思考,假设我们没有单独的文本类型(如Python 2.x的encoding或Python 3的unicode)。我们仍然可以使用原始字节来处理文本,但是要跟踪所使用的编码。这就是str的用法(用于跟踪编码)。我们自动创建的阅读器包装器为我们进行跟踪和转换。

当然,自动换行file.encoding会更好(这就是Python 3.x的作用),但是在Python 2.x中更改sys.stdin的默认行为会破坏向后兼容性。 / p>

以下是Python 2.x和3.x中的sys.stdin的比较:

sys.stdin

自Python 2.6以来,io.TextIOWrapper class是标准库的一部分。此类具有# Python 2.7.4 >>> import sys >>> type(sys.stdin) <type 'file'> >>> sys.stdin.encoding 'UTF-8' >>> w = sys.stdin.readline() ## ... type stuff - enter >>> type(w) <type 'str'> # In Python 2.x str is just raw bytes >>> import locale >>> locale.getdefaultlocale() ('en_US', 'UTF-8') 属性,用于将原始字节转换为Unicode和来自Unicode。

encoding

# Python 3.3.1 >>> import sys >>> type(sys.stdin) <class '_io.TextIOWrapper'> >>> sys.stdin.encoding 'UTF-8' >>> w = sys.stdin.readline() ## ... type stuff - enter >>> type(w) <class 'str'> # In Python 3.x str is Unicode >>> import locale >>> locale.getdefaultlocale() ('en_US', 'UTF-8') 属性提供对支持buffer的原始字节流的访问;这通常是stdin。请注意,具有BufferedReader属性。

encoding

在Python 3中,# Python 3.3.1 again >>> type(sys.stdin.buffer) <class '_io.BufferedReader'> >>> w = sys.stdin.buffer.readline() ## ... type stuff - enter >>> type(w) <class 'bytes'> # bytes is (kind of) equivalent to Python 2 str >>> sys.stdin.buffer.encoding Traceback (most recent call last): File "<stdin>", line 1, in <module> AttributeError: '_io.BufferedReader' object has no attribute 'encoding' 属性的存在与否与所用流的类型一致。