在python中对具有特定语言环境的字符串列表进行排序

时间:2012-06-20 14:18:38

标签: python locale ctypes glibc

我使用的是使用不同语言文本的应用程序,因此,为了查看或报告,某些文本(字符串)需要按特定语言进行排序。

目前我有一个解决方法搞乱全局区域设置,这很糟糕,我不想把它投入生产:

default_locale = locale.getlocale(locale.LC_COLLATE)

def sort_strings(strings, locale_=None):
    if locale_ is None:
        return sorted(strings)

    locale.setlocale(locale.LC_COLLATE, locale_)
    sorted_strings = sorted(strings, cmp=locale.strcoll)
    locale.setlocale(locale.LC_COLLATE, default_locale)

    return sorted_strings

官方python语言环境文档明确指出保存和恢复是一个坏主意,但没有提出任何建议:http://docs.python.org/library/locale.html#background-details-hints-tips-and-caveats

3 个答案:

答案 0 :(得分:3)

您可以使用 PyICU 整理器来避免更改全局设置:

import icu # PyICU

def sorted_strings(strings, locale=None):
    if locale is None:
       return sorted(strings)
    collator = icu.Collator.createInstance(icu.Locale(locale))
    return sorted(strings, key=collator.getSortKey)

示例:

>>> L = [u'sandwiches', u'angel delight', u'custard', u'éclairs', u'glühwein']
>>> sorted_strings(L)
['angel delight', 'custard', 'glühwein', 'sandwiches', 'éclairs']
>>> sorted_strings(L, 'en_US')
['angel delight', 'custard', 'éclairs', 'glühwein', 'sandwiches']

缺点:依赖于PyICU library;行为与locale.strcoll略有不同。


我不知道如何在没有全局更改的情况下获取区域设置名称的locale.strxfrm函数。作为 hack ,你可以在不同的子进程中运行你的函数

pool = multiprocessing.Pool()
# ...
pool.apply(locale_aware_sort, [strings, loc])

缺点:可能很慢,资源匮乏


使用普通threading.Lock将无效,除非您可以控制每个可以从多个线程调用区域设置感知功能的位置(它们不限于locale模块,例如re


您可以使用 Cython 编译您的函数,以使用GIL同步访问。 GIL将确保在您的函数运行时不能执行任何其他Python代码。

缺点:不是纯粹的Python

答案 1 :(得分:3)

Glibc支持具有显式状态的语言环境API。这是使用ctypes创建的API的快速包装器。

# -*- coding: utf-8
import ctypes


class Locale(object):
    def __init__(self, locale):
        LC_ALL_MASK = 8127
        # LC_COLLATE_MASK = 8
        self.libc = ctypes.CDLL("libc.so.6")
        self.ctx = self.libc.newlocale(LC_ALL_MASK, locale, 0)



    def strxfrm(self, src, iteration=1):
        size = 3 * iteration * len(src)
        dest =  ctypes.create_string_buffer('\000' * size)
        n = self.libc.strxfrm_l(dest, src, size,  self.ctx)
        if n < size:
            return dest.value
        elif iteration<=4:
            return self.strxfrm(src, iteration+1)
        else:
            raise Exception('max number of iterations trying to increase dest reached')


    def __del__(self):
        self.libc.freelocale(self.ctx)

和短暂的测试

locale1 = Locale('C')
locale2 = Locale('mk_MK.UTF-8')

a_list = ['а', 'б', 'в', 'ј', 'ќ', 'џ', 'ш']
import random
random.shuffle(a_list)

assert sorted(a_list, key=locale1.strxfrm) == ['а', 'б', 'в', 'ш', 'ј', 'ќ', 'џ']
assert sorted(a_list, key=locale2.strxfrm) == ['а', 'б', 'в', 'ј', 'ќ', 'џ', 'ш']

剩下要做的是实现所有语言环境函数,支持python unicode字符串(我想用wchar *函数),并自动导入包含文件定义或其他东西

答案 2 :(得分:3)

ctypes解决方案很好,但如果将来有人想要修改原始解决方案,可以采用以下方法:

可以使用上下文管理器安全地完成全局设置的临时更改。

from contextlib import contextmanager
import locale

@contextmanager
def changedlocale(newone):
    old_locale = locale.getlocale(locale.LC_COLLATE)
    try:
        locale.setlocale(locale.LC_COLLATE, newone)
        yield locale.strcoll
    finally:
        locale.setlocale(locale.LC_COLLATE, old_locale)

def sort_strings(strings, locale_=None):
    if locale_ is None:
        return sorted(strings)

    with changedlocale(locale_) as strcoll:
        return sorted(strings, cmp=strcoll)

    return sorted_strings

这确保了原始语言环境的干净恢复 - 只要您不使用线程。