钻石中的两个问号而不是颠倒的感叹号

时间:2012-12-19 20:28:23

标签: php eclipse unicode utf-8 character-encoding

我在Mac OS X 10上使用eclipse-php处理一些带有西班牙语文本的文本文件。我的编码设置为UTF-8,除了一个小问题外,一切都很好。在输出文本文件中,所有¡(颠倒的感叹号)都替换为� �(两个黑色菱形,问题标记用空格分隔)。没有其他角色(¿ñáéíóúü)给我任何麻烦。我的Windows Vista计算机遇到了类似的问题(它会用¡替换所有é)。任何想法为什么这一个角色在UTF-8中被淘汰以及我如何解决它?

这是我正在使用的代码。我最初没有把它包括在内,因为它太长了,我不确定问题出在哪里。正如你所看到的,我已经尝试合并了shiplu.mokadd.im的建议,但我仍然得到了� �

<?php

ini_set("auto_detect_line_endings", true);

$sourceH = fopen("MainInput.txt", "r") or die("Can't open MainInput.txt.");
$sourceData = array();
$tracker = 0;

while (!feof($sourceH)){
    $sourceData[$tracker] = fgets($sourceH);
    $sourceData[$tracker] = preg_split("/\t/", $sourceData[$tracker]);
    $tracker++;
}

$i = $tracker--;

$chars_hi = 'ABCDEFGHIJKLMNÑOPQRSTUVWXYZÁÉÍÓÚÜ';
$chars_lo = 'abcdefghijklmnñopqrstuvwxyzáéíóúü';
$characters = "ABCDEFGHIJKLMNÑOPQRSTUVWXYZÁÉÍÓÚÜabcdefghijklmnñopqrstuvwxyzáéíóúü1234567890'-";

function lowercase($s) {
    global $chars_hi, $chars_lo;
    return strtr($s, $chars_hi, $chars_lo);
}

$myNewFile = "Processing/Prepared.txt";
$fhNew = fopen($myNewFile, 'w') or die("can't open Prepared\n");
$newText = "";

for ($n = 1; $n < $i; $n++) {

    $myFile = $sourceData[$n][1];
    $fh = fopen($myFile,'r') or die("can't open file ".$sourceData[$n][1]."\n");
    fwrite($fhNew, "\n\nStartFile ".$sourceData[$n][0]."\n\n");
    $position = 0;
    $speaker = ">>u";

    while (!feof($fh)){
        $newText = fgets($fh);
        $isLast = false;
        $isFirst = true;
        $new = "";
        if (mb_strpos($newText, ">> i") !== false or mb_strpos($newText, ">>i") !== false or mb_strpos($newText, ">i") !== false or mb_strpos($newText, "> i") !== false) {
            $speaker = ">>i";
        }
        elseif (mb_strpos($newText, ">> s") !== false or mb_strpos($newText, ">>s") !== false or mb_strpos($newText, ">s") !== false or mb_strpos($newText, "> s") !== false) {
            $speaker = ">>s";
        }
        for ($in = 0; $in < mb_strlen($newText); $in++) {
            if (mb_strpos($characters, $newText[$in]) !== false) {
                if ($isFirst == true) {
                    $new = $new." ".$newText[$in];
                    $isFirst = false;
                    $isLast = true;
                }
                else {
                    $new = $new.$newText[$in];
                }
            }
            elseif ($isLast == true) {
                $isLast = false;
                $isFirst = true;
                $new = $new."   ".($in + $position)."   ".$speaker."    ".$newText[$in];
            }
            else {
                $new = $new.$newText[$in];
            }
        }
        $position += mb_strlen($newText);
        $newText = $new;
        $newText = lowercase($newText);
        fwrite($fhNew, $newText."\n");
    }
    fclose($fh);
}
fclose($fhNew);

?>

1 个答案:

答案 0 :(得分:5)

你不能做这样的事情:

$new = $new." ".$newText[$in];

具体来说,$newText[$in]。这可以进行字节级访问,但使用UTF-8时,字符由多个字节组成。因此,当您破解并删除这样的字节时,您将分离属于一起的UTF-8字节,从而产生

例如,运行此PHP脚本(在文本编辑器中保存为UTF-8):

<?php
header("Content-Type: text/html; charset=UTF-8");
$text = "ä";
echo $text[0] . " " . $text[1];

结果为� �

您必须修复所有正在对字符串进行[]访问的代码。您可以将$string[$i]替换为mb_substr( $string, $i, 1, "UTF-8" );

另外,您是否已将mb_internal_encoding设为"UTF-8"?否则,在没有显式编码的情况下调用mb_*函数时,很可能不会默认为UTF-8。

我还建议在自定义mb_convert_case($str, MB_CASE_LOWER, "UTF-8");功能上使用lowercase之类的内容。