如何用Python中的ascii字符替换unicode字符(给出perl脚本)?

时间:2010-04-23 18:01:36

标签: python perl unicode diacritics

我正在尝试学习python,并且无法弄清楚如何将以下perl脚本转换为python:

#!/usr/bin/perl -w                     

use open qw(:std :utf8);

while(<>) {
  s/\x{00E4}/ae/;
  s/\x{00F6}/oe/;
  s/\x{00FC}/ue/;
  print;
}

该脚本只是将unicode元音变换为替代的ascii输出。 (所以完整的输出是ascii。)我将不胜感激任何提示。谢谢!

5 个答案:

答案 0 :(得分:40)

要转换为ASCII,您可能需要尝试ASCII, Dammitthis recipe,其归结为:

>>> title = u"Klüft skräms inför på fédéral électoral große"
>>> import unicodedata
>>> unicodedata.normalize('NFKD', title).encode('ascii','ignore')
'Kluft skrams infor pa federal electoral groe'

答案 1 :(得分:16)

  • 使用fileinput模块循环标准输入或文件列表
  • 将您从UTF-8读取的行解码为unicode对象
  • 然后使用translate方法
  • 映射您想要的任何unicode字符

translit.py看起来像这样:

#!/usr/bin/env python2.6
# -*- coding: utf-8 -*-

import fileinput

table = {
          0xe4: u'ae',
          ord(u'ö'): u'oe',
          ord(u'ü'): u'ue',
          ord(u'ß'): None,
        }

for line in fileinput.input():
    s = line.decode('utf8')
    print s.translate(table), 

你可以像这样使用它:

$ cat utf8.txt 
sömé täßt
sömé täßt
sömé täßt

$ ./translit.py utf8.txt 
soemé taet
soemé taet
soemé taet
  • 更新

如果您使用的是python 3字符串,则默认情况下为unicode,如果它包含非ASCII字符甚至非拉丁字符,则不需要对其进行编码。所以解决方案将如下所示:

line = 'Verhältnismäßigkeit, Möglichkeit'

table = {
         ord('ä'): 'ae',
         ord('ö'): 'oe',
         ord('ü'): 'ue',
         ord('ß'): 'ss',
       }

line.translate(table)

>>> 'Verhaeltnismaessigkeit, Moeglichkeit'

答案 2 :(得分:4)

您可以尝试unidecode将Unicode转换为ascii,而不是编写手动正则表达式。它是Text::Unidecode Perl模块的Python端口:

#!/usr/bin/env python
import fileinput
import locale
from contextlib import closing
from unidecode import unidecode # $ pip install unidecode

def toascii(files=None, encoding=None, bufsize=-1):
    if encoding is None:
        encoding = locale.getpreferredencoding(False)
    with closing(fileinput.FileInput(files=files, bufsize=bufsize)) as file:
        for line in file: 
            print unidecode(line.decode(encoding)),

if __name__ == "__main__":
    import sys
    toascii(encoding=sys.argv.pop(1) if len(sys.argv) > 1 else None)

它使用FileInput类来避免全局状态。

示例:

$ echo 'äöüß' | python toascii.py utf-8
aouss

答案 3 :(得分:3)

我使用translitcodec

>>> import translitcodec
>>> print '\xe4'.decode('latin-1')
ä
>>> print '\xe4'.decode('latin-1').encode('translit/long').encode('ascii')
ae
>>> print '\xe4'.decode('latin-1').encode('translit/short').encode('ascii')
a

您可以将解码语言更改为您需要的任何内容。您可能需要一个简单的函数来减少单个实现的长度。

def fancy2ascii(s):
    return s.decode('latin-1').encode('translit/long').encode('ascii')

答案 4 :(得分:-1)

又脏又臭(python2):

def make_ascii(string):
    return string.decode('utf-8').replace(u'ü','ue').replace(u'ö','oe').replace(u'ä','ae').replace(u'ß','ss').encode('ascii','ignore');