我想制作一个简单的Python脚本,将每个阿拉伯字母映射到音素声音符号。我有一个文件,其中包含脚本会将其转换为音素的大量单词,并且我的代码中包含以下字典:
我的.txt
文件中的内容:
السلام عليكم
السلام عليكم و رحمة الله
السلام عليكم و رحمة الله و بركاته
الحمد لله
كيف حالك
كيف الحال
我的代码中的字典:
ar_let_phon_maplist = {u'ﺍ':'A:', u'ﺏ':'B', u'ﺕ':'T', u'ﺙ':'TH', u'ﺝ':'J', u'ﺡ':'H', u'ﺥ':'KH', u'ﻩ':'H', u'ﻉ':'(ayn) ’', u'ﻍ':'GH', u'ﻑ':'F', u'ﻕ':'q', u'ﺹ':u'ṣ', u'ﺽ':u'ḍ', u'ﺩ':'D', u'ﺫ':'DH', u'ﻁ':u'ṭ', u'ﻙ':'K', u'ﻡ':'M', u'ﻥ':'N', u'ﻝ':'L', u'ﻱ':'Y', u'ﺱ':'S', u'ﺵ':'SH', u'ﻅ':u'ẓ', u'ﺯ':'Z', u'ﻭ':'W', u'ﺭ':'R'}
我有一个嵌套循环,我正在读取每一行,转换每个字符:
with codecs.open(sys.argv[1], 'r', encoding='utf-8') as file:
lines = file.readlines()
line_counter = 0
for line in lines:
print "Phonetics In Line " + str(line_counter)
print line + " ",
for word in line:
for character in word:
if character == '\n':
print ""
elif character == ' ':
print " "
else:
print ar_let_phon_maplist[character] + " ",
line_counter +=1
这就是我得到的错误:
Phonetics In Line 0
السلام عليكم
Traceback (most recent call last):
File "grapheme2phoneme.py", line 25, in <module>
print ar_let_phon_maplist[character] + " ",
KeyError: u'\u0627'
然后我使用Linux命令检查文件类型是否为UTF-8:
file words.txt
我得到的输出:
words.txt: UTF-8 Unicode text
针对此问题的任何解决方案,为什么它不映射到字典中的Unicode对象,因为我在ar_let_phon_maplist[character]
行中使用的字符也是Unicode?
我的代码有问题吗?
答案 0 :(得分:3)
吸引眼球的第一件事是KeyError
。所以你的词典根本不知道文件中遇到的一些符号。展望未来,它不知道任何提交的字符,而不仅仅是第一个。
我们可以用它做什么?好的,我们可以将unicode表的阿拉伯段中的所有符号添加到我们的字典中。简单?是。明确?否。
如果您想真正理解这种“奇怪”行为的原因,您应该更多地了解Unicode。简而言之,有很多字母看起来相似但有不同的序号。而且,同一个字母有时可以以多种形式呈现。所以comparing unicode characters是not a trivial task。
所以,如果我被允许使用Python 3.3+,我会按如下方式解决任务。首先,我将ar_let_phon_maplist
字典中的密钥规范化:
ar_let_phon_maplist = {unicodedata.normalize('NFKD', k): v
for k, v in ar_let_phon_maplist.items()}
然后我们将遍历文件中的行,行中的单词和单词中的字符,如下所示:
for index, line in enumerate(lines):
print('Phonetics in line {0}, total {1} symbols'.format(index, len(line)))
unknown = [] # Here will be stored symbols that we haven't found in dict
words = line.split()
for word in words:
print(word, ': ', sep='', end='')
for character in word:
c = unicodedata.normalize('NFKD', character).casefold()
try:
print(ar_let_phon_maplist[c], sep='', end='')
except KeyError:
print('_', sep='', end='')
if c not in unknown:
unknown.append(c)
print()
if unknown:
print('Unrecognized symbols: {0}, total {1} symbols'.format(', '.join(unknown),
len(unknown)))
脚本将产生类似的东西:
Phonetics in line 4, total 9 symbols
كيف: KYF
حالك: HA:LK
答案 1 :(得分:1)
看起来你忘记了字典中的那个字符。您有ﺍ
(u'\ufe8d'
,ARABIC LETTER ALEF ISOLATED FORM),看起来很相似,但您没有ا
(u'\u0627'
,ARABIC LETTER ALEF)。