UnicodeEncodeError:'ascii'编解码器无法对位置0中的字符u'\ xef'进行编码:序数不在范围内(128)

时间:2011-02-28 11:48:09

标签: python google-app-engine xml-parsing

我想解析我的XML文档。所以我存储了我的XML文档,如下所示

class XMLdocs(db.Expando):  
   id = db.IntegerProperty()    
   name=db.StringProperty()  
   content=db.BlobProperty()  

现在我的下面是我的代码

parser = make_parser()     
curHandler = BasketBallHandler()  
parser.setContentHandler(curHandler)  
for q in XMLdocs.all():  
        parser.parse(StringIO.StringIO(q.content))

我收到以下错误

'ascii' codec can't encode character u'\xef' in position 0: ordinal not in range(128)
Traceback (most recent call last):  
  File "/base/python_runtime/python_lib/versions/1/google/appengine/ext/webapp/__init__.py", line 517, in __call__
    handler.post(*groups)   
  File "/base/data/home/apps/parsepython/1.348669006354245654/mapreduce/base_handler.py", line 59, in post
    self.handle()   
  File "/base/data/home/apps/parsepython/1.348669006354245654/mapreduce/handlers.py", line 168, in handle
    scan_aborted = not self.process_entity(entity, ctx)   
  File "/base/data/home/apps/parsepython/1.348669006354245654/mapreduce/handlers.py", line 233, in process_entity
    handler(entity)   
  File "/base/data/home/apps/parsepython/1.348669006354245654/parseXML.py", line 71, in process
    parser.parse(StringIO.StringIO(q.content))   
  File "/base/python_runtime/python_dist/lib/python2.5/xml/sax/expatreader.py", line 107, in parse
    xmlreader.IncrementalParser.parse(self, source)   
  File "/base/python_runtime/python_dist/lib/python2.5/xml/sax/xmlreader.py", line 123, in parse
    self.feed(buffer)  
  File "/base/python_runtime/python_dist/lib/python2.5/xml/sax/expatreader.py", line 207, in feed
    self._parser.Parse(data, isFinal)   
  File "/base/data/home/apps/parsepython/1.348669006354245654/parseXML.py", line 136, in characters   
    print ch   
UnicodeEncodeError: 'ascii' codec can't encode character u'\xef' in position 0: ordinal not in range(128)   

7 个答案:

答案 0 :(得分:112)

此问题的实际最佳答案取决于您的环境,特别是您的终端所期望的编码。

最快的单行解决方案是将您打印的所有内容编码为您的终端几乎肯定会接受的ASCII,同时丢弃无法打印的字符:

print ch #fails
print ch.encode('ascii', 'ignore')

更好的解决方案是将终端的编码更改为utf-8,并在打印前将所有内容编码为utf-8。你应该养成在打印或读取字符串时考虑unicode编码的习惯。

答案 1 :(得分:56)

只需将.encode('utf-8')放在对象的末尾即可在最新版本的Python中完成工作。

答案 2 :(得分:30)

这对我有用:

from django.utils.encoding import smart_str
content = smart_str(content)

答案 3 :(得分:29)

您似乎正在使用UTF-8字节顺序标记(BOM)。尝试使用带有BOM的unicode字符串:

import codecs

content = unicode(q.content.strip(codecs.BOM_UTF8), 'utf-8')
parser.parse(StringIO.StringIO(content))

我使用strip代替lstrip,因为在您的情况下,您有多次出现BOM,可能是由于连接的文件内容。

答案 4 :(得分:7)

根据您追溯的问题是print第136行的parseXML.py声明。不幸的是你认为不适合发布你的代码部分,但我猜它只是用于调试。如果您将其更改为:

print repr(ch)

然后你应该至少看看你想要打印什么。

答案 5 :(得分:7)

问题是您正在尝试将unicode字符打印到可能非unicode终端。在打印之前,您需要使用'replace选项对其进行编码,例如print ch.encode(sys.stdout.encoding, 'replace')

答案 6 :(得分:-1)

解决此问题的简单方法是将默认编码设置为utf8。以下是一个例子

import sys

reload(sys)
sys.setdefaultencoding('utf8')