charnames,substitutions和Umlaut“Ü”:格式错误的UTF-8字符

时间:2011-07-13 09:17:46

标签: regex perl unicode utf-8 diacritics

我正在处理使用控制字符进行文本分隔的书目记录。当我在替代操作中使用Unicode字符名称“STRING TERMINATOR”时,如果文本包含“Ü”,则会收到“格式错误的UTF-8字符”警告。替换适用于其他Unicode字符名称和包含“ü”,“ä”,“é”,......的文本。

#!/usr/bin/perl

use v5.12;

use utf8;
use strict;
use autodie;
use warnings;
# use warnings    qw< FATAL  utf8     >;
use charnames   qw< :full >;
use feature     qw< unicode_strings >;

binmode STDOUT, ':utf8';

my @records = (qq[\N{U+0098}L'\N{U+009c} Année du Figaro], qq[\N{U+0098}The\N{U+009c} famous ümläut], qq[\N{U+0098}The\N{U+009c} famous Ümlaut], qq[\N{U+0098}\N{U+00DC}\N{U+009c}]);

my %replace = (
    "\N{START OF STRING}"     => "<ns>",
    "\N{STRING TERMINATOR}"   => "</ns>",
);
my $regex = join "|", keys %replace;
$regex = qr/$regex/;

foreach my $record (@records){
    $record =~ s/($regex)/$replace{$1}/g;
    say $record;
};

我使用Strawberry Perl v5.12.3.0。

可以采取哪些措施来避免这些警告?

谢谢,jorol

2 个答案:

答案 0 :(得分:1)

升级到5.14,it won't throw warnings there

答案 1 :(得分:0)

如果可能,您可以在散列中包含所有Unicode字符的列表,并在处理之前替换它,以避免警告您拥有的Perl版本

像这样,

my $Description = "famous Ümlaut";
my %UMLAUTE = ( 
    'Ä' => 'Ae',
    'Ö' => 'Oe', 
    'Ü' => 'Ue',
    'ä' => 'ae',
    'ö' => 'oe', 
    'ü' => 'ue', 
    'ß' => 'ss',
    'é' => 'e' 
);

my @UMLKEYS = join("|", keys(%UMLAUTE));
$Description =~ s/(@UMLKEYS)/$UMLAUTE{$1}/g; 

这将导致“着名的Uemlaut”