Python:从非BMP unicode char中查找等效的代理项对

时间:2016-10-24 16:13:25

标签: python unicode encoding emoji surrogate-pairs

此处提供的答案:How to work with surrogate pairs in Python?告诉您如何将代理对(例如'\ud83d\ude4f')转换为单个非BMP unicode字符(答案为"\ud83d\ude4f".encode('utf-16', 'surrogatepass').decode('utf-16'))。我想知道如何反过来这样做。我如何使用Python从非BMP角色中找到等效的代理对,将'\U0001f64f'()转换回'\ud83d\ude4f'。我找不到明确的答案。

2 个答案:

答案 0 :(得分:4)

您必须使用代理项对手动替换每个非BMP点。您可以使用正则表达式执行此操作:

import re

_nonbmp = re.compile(r'[\U00010000-\U0010FFFF]')

def _surrogatepair(match):
    char = match.group()
    assert ord(char) > 0xffff
    encoded = char.encode('utf-16-le')
    return (
        chr(int.from_bytes(encoded[:2], 'little')) + 
        chr(int.from_bytes(encoded[2:], 'little')))

def with_surrogates(text):
    return _nonbmp.sub(_surrogatepair, text)

演示:

>>> with_surrogates('\U0001f64f')
'\ud83d\ude4f'

答案 1 :(得分:3)

这有点复杂,但这是一个单行转换单个字符:

>>> emoji = '\U0001f64f'
>>> ''.join(chr(x) for x in struct.unpack('>2H', emoji.encode('utf-16be')))
'\ud83d\ude4f'

要转换混合字符,需要将该表达式与另一个表达式包围起来:

>>> emoji_str = 'Here is a non-BMP character: \U0001f64f'
>>> ''.join(c if c <= '\uffff' else ''.join(chr(x) for x in struct.unpack('>2H', c.encode('utf-16be'))) for c in emoji_str)
'Here is a non-BMP character: \ud83d\ude4f'