Question

我有一个数据库，我正在重建表结构是垃圾，所以我将一些数据从一个表移植到另一个表。这些数据似乎是从MSO产品中复制粘贴的，所以当我得到数据时，我用htmlpurifier和php中的一些str_replace清理它。这是干净的功能：

   function clean_html($html) {
    $config = HTMLPurifier_Config::createDefault();
    $config->set('AutoFormat','RemoveEmpty',true);
    $config->set('HTML','AllowedAttributes','href,src');
    $config->set('HTML','AllowedElements','p,em,strong,a,ul,li,ol,img');
    $purifier = new HTMLPurifier($config);

    $html = $purifier->purify($html);

    $html = str_replace('&nbsp;',' ',$html);
    $html = str_replace("\r",'',$html);
    $html = str_replace("\n",'',$html);
    $html = str_replace("\t",'',$html);
    $html = str_replace('  ',' ',$html);
    $html = str_replace('<p> </p>','',$html);
    $html = str_replace(chr(160),' ',$html);

    return trim($html);
   }

然而，当我将结果放入我的新表并将它们输出到ckeditor时，我得到了这三个字符。

然后我调用了一个javascript函数来从ckeditor的内容中删除特殊字符。它不会清理它

  function remove_special(str) {
    var rExps=[ /[\xC0-\xC2]/g, /[\xE0-\xE2]/g,
    /[\xC8-\xCA]/g, /[\xE8-\xEB]/g,
    /[\xCC-\xCE]/g, /[\xEC-\xEE]/g,
    /[\xD2-\xD4]/g, /[\xF2-\xF4]/g,
    /[\xD9-\xDB]/g, /[\xF9-\xFB]/g,
    /\xD1/,/\xF1/g,
    "/[\u00a0|\u1680|[\u2000-\u2009]|u200a|\u200b|\u2028|\u2029|\u202f|\u205f|\u3000|\xa0]/g", 
    /\u000b/g,'/[\u180e|\u000c]/g',
    /\u2013/g, /\u2014/g,
    /\xa9/g,/\xae/g,/\xb7/g,/\u2018/g,/\u2019/g,/\u201c/g,/\u201d/g,/\u2026/g];
    var repChar=['A','a','E','e','I','i','O','o','U','u','N','n',' ','\t','','-','--','(c)','(r)','*',"'","'",'"','"','...'];

    for(var i=0; i<rExps.length; i++) {
        str=str.replace(rExps[i],repChar[i]);
    }

      for (var x = 0; x < str.length; x++) {
    charcode = str.charCodeAt(x);
          if ((charcode < 32 || charcode > 126) && charcode !=10 && charcode != 13) {
              str = str.replace(str.charAt(x), "");
          }
      }
      return str;
  }

有没有人知道我需要做些什么才能摆脱它们。我认为它们可能是某种引用。

Answer 1

this SO thread中的第一个答案应该指向正确的方向并简化你的remove_special（）函数。

Answer 2

有类似的问题：php remove/identify this symbol �

角色是REPLACEMENT CHARACTER (U+FFFD)。当UTF代码中出现错误时使用它：

FFFD � REPLACEMENT CHARACTER

 - used to replace an incoming character whose value 
   is unknown or unrepresentable in Unicode

在大多数情况下，这意味着某些数据是使用UTF编码解释的，而数据不是使用该编码编码而是使用不同的编码。

我的问题是将文本从微软办公产品粘贴到HTML或数据库。最大的罪犯似乎是emdash和聪明的报价。

Answer 3

你的角色编码完全没有了。 â表示我有一个三字节的UTF-8编码字符。

您需要发现的一些事情

旧表的编码是什么？
新表的编码是什么？
显示ckeditor的页面的编码是什么？

看起来像HTMLPurifier's default is UTF-8，所以你真的需要知道数据的编码！

in净化后我的html

3 个答案: