Question

版本为Python 3.7。我刚刚发现python有时会将字符ñ存储在具有多种表示形式的字符串中，而对于为什么或如何处理它我完全感到茫然。

我不确定显示此问题的最佳方法，所以我将仅显示一些代码输出。

我有两个字符串s1和s2都设置为等于'Dan Peña'

它们都是字符串类型。

我可以运行代码：

print(s1 == s2) # prints false
print(len(s1)) # prints 8
print(len(s2)) # prints 9
print(type(s1)) # print 'str'
print(type(s2)) # print 'str'
for i in range(len(s1)):
    print(s1[i] + ", " + s2[i])

循环的输出为：

D, D
a, a
n, n
 ,  
P, P
e, e
ñ, n
a, ~

那么，是否有任何python方法来处理这些不一致问题，或者至少有一些关于python什么时候使用哪种表示形式的规范？

很高兴知道Python为什么会选择以这种方式实现。

编辑：

正在从django数据库中检索一个字符串，而另一个字符串是从解析列表目录调用中的文件名获得的字符串中。

from app.models import Model
from django.core.management.base import BaseCommand

class Command(BaseCommand):

    def handle(self, *args, **kwargs):
        load_dir = "load_dir_name"
        save_dir = "save_dir"

        files = listdir(load_dir)
        save_file_map = {file[:file.index("_thumbnail.jpg")]: f"{save_dir}/{file}" for file in files}
        for obj in Model.objects.all():
            s1 = obj.title
            save_file_path = save_file_map[s1] # Key error when encountering ñ.

但是，当我搜索save_file_map字典时，发现与s1完全相同的键，只是ñ被编码为字符n~而不是字符ñ。

请注意，我在上述代码中使用list dir加载的文件首先是基于obj.title字段命名的，因此应确保名称为load_dir的文件

Answer 1

您将要规范化字符串以使用相同的表示形式。现在，其中一个正在使用n字符+波浪号字符（2个字符），而另一个正在使用单个字符表示n与波浪号。

unicodedata.normalize应该做您想要的。请参阅文档here。

您将这样称呼：unicodedata.normalize('NFC', s1)。 'NFC'告诉unicodedata.normalize，您想对所有内容使用组成形式，例如ñ的1个字符的版本。除了'NFC'之外，文档中还提供了其他选项，您完全可以使用该选项。

现在，您可以在何时进行规范化（我不知道您的应用程序的结构）。例如，您可以在插入数据库之前进行标准化，或者在每次从数据库读取数据时进行标准化。

Python字符串中特殊字符存储不一致

1 个答案: