我在Mac OS X 10上使用eclipse-php处理一些带有西班牙语文本的文本文件。我的编码设置为UTF-8,除了一个小问题外,一切都很好。在输出文本文件中,所有¡
(颠倒的感叹号)都替换为� �
(两个黑色菱形,问题标记用空格分隔)。没有其他角色(¿ñáéíóúü
)给我任何麻烦。我的Windows Vista计算机遇到了类似的问题(它会用¡
替换所有é
)。任何想法为什么这一个角色在UTF-8中被淘汰以及我如何解决它?
这是我正在使用的代码。我最初没有把它包括在内,因为它太长了,我不确定问题出在哪里。正如你所看到的,我已经尝试合并了shiplu.mokadd.im的建议,但我仍然得到了� �
。
<?php
ini_set("auto_detect_line_endings", true);
$sourceH = fopen("MainInput.txt", "r") or die("Can't open MainInput.txt.");
$sourceData = array();
$tracker = 0;
while (!feof($sourceH)){
$sourceData[$tracker] = fgets($sourceH);
$sourceData[$tracker] = preg_split("/\t/", $sourceData[$tracker]);
$tracker++;
}
$i = $tracker--;
$chars_hi = 'ABCDEFGHIJKLMNÑOPQRSTUVWXYZÁÉÍÓÚÜ';
$chars_lo = 'abcdefghijklmnñopqrstuvwxyzáéíóúü';
$characters = "ABCDEFGHIJKLMNÑOPQRSTUVWXYZÁÉÍÓÚÜabcdefghijklmnñopqrstuvwxyzáéíóúü1234567890'-";
function lowercase($s) {
global $chars_hi, $chars_lo;
return strtr($s, $chars_hi, $chars_lo);
}
$myNewFile = "Processing/Prepared.txt";
$fhNew = fopen($myNewFile, 'w') or die("can't open Prepared\n");
$newText = "";
for ($n = 1; $n < $i; $n++) {
$myFile = $sourceData[$n][1];
$fh = fopen($myFile,'r') or die("can't open file ".$sourceData[$n][1]."\n");
fwrite($fhNew, "\n\nStartFile ".$sourceData[$n][0]."\n\n");
$position = 0;
$speaker = ">>u";
while (!feof($fh)){
$newText = fgets($fh);
$isLast = false;
$isFirst = true;
$new = "";
if (mb_strpos($newText, ">> i") !== false or mb_strpos($newText, ">>i") !== false or mb_strpos($newText, ">i") !== false or mb_strpos($newText, "> i") !== false) {
$speaker = ">>i";
}
elseif (mb_strpos($newText, ">> s") !== false or mb_strpos($newText, ">>s") !== false or mb_strpos($newText, ">s") !== false or mb_strpos($newText, "> s") !== false) {
$speaker = ">>s";
}
for ($in = 0; $in < mb_strlen($newText); $in++) {
if (mb_strpos($characters, $newText[$in]) !== false) {
if ($isFirst == true) {
$new = $new." ".$newText[$in];
$isFirst = false;
$isLast = true;
}
else {
$new = $new.$newText[$in];
}
}
elseif ($isLast == true) {
$isLast = false;
$isFirst = true;
$new = $new." ".($in + $position)." ".$speaker." ".$newText[$in];
}
else {
$new = $new.$newText[$in];
}
}
$position += mb_strlen($newText);
$newText = $new;
$newText = lowercase($newText);
fwrite($fhNew, $newText."\n");
}
fclose($fh);
}
fclose($fhNew);
?>
答案 0 :(得分:5)
你不能做这样的事情:
$new = $new." ".$newText[$in];
具体来说,$newText[$in]
。这可以进行字节级访问,但使用UTF-8时,字符由多个字节组成。因此,当您破解并删除这样的字节时,您将分离属于一起的UTF-8字节,从而产生�
。
例如,运行此PHP脚本(在文本编辑器中保存为UTF-8):
<?php
header("Content-Type: text/html; charset=UTF-8");
$text = "ä";
echo $text[0] . " " . $text[1];
结果为� �
。
您必须修复所有正在对字符串进行[]
访问的代码。您可以将$string[$i]
替换为mb_substr( $string, $i, 1, "UTF-8" );
另外,您是否已将mb_internal_encoding
设为"UTF-8"
?否则,在没有显式编码的情况下调用mb_*
函数时,很可能不会默认为UTF-8。
我还建议在自定义mb_convert_case($str, MB_CASE_LOWER, "UTF-8");
功能上使用lowercase
之类的内容。