如何知道std :: string是否正确编码?

时间:2018-06-07 13:29:11

标签: c++ string stl

在我的程序中,我从另一个函数中获取std::string值,该函数读取不同来源的字符串,此处的字符串始终包含非ASCII字符。

我正在使用Visual Studio调试程序。有时当字符串内容在VS调试器中看起来正确时,下一步就可以了(例如使用此字符串作为输入和输出的目录)。但有时字符串内容看起来不正确,这会导致下一步出错。

目前,我使用QString作为转换" incorect"的桥梁。字符串到"纠正"字符串,代码如下。

// get string from somewhere else, sometimes correct sometimes incorrect
string str = getString(); 
QString strQ = QString::fromStdString(str);
str = string(strQ.toLocal8bit);

但有时str是"正确"在转换之前,如果我使用上面的代码转换它,那就错了。

所以我想这里的问题是如何知道std::string是否具有正确的编码?因为我无法用眼睛来判断它。

是的,编码是Stack Overflow上广泛讨论的主题,但我仍然找不到合适的解决方案。

P.S。 在VS调试器中,正确的字符串值看起来像孙夏^4735,不正确的字符串值看起来像????

1 个答案:

答案 0 :(得分:1)

您必须检查字符串是否已经过UTF-8编码。类似下面的代码(从未测试过,使用它为你的灵感)。

#include <string>

enum DetectedCoding {ASCII, UTF8, OTHER};

DetectedCoding DetectEncoding(const std::string & s)
{
  const char * cs = s.c_str();
  DetectedCoding d = ASCII;
  while (*cs)
  {
    unsigned char b = (unsigned char)*(cs++);
    if (b & 0x80) { // not a plain ASCII character
      // if the string is already UTF8 encoded, then it must conform to a multibyte sequence standard. Let's verify it
      if (b < 0xC0) // first of all, b must start with 11
        return OTHER; //  no multibyte sequence starts with 10xxxxxx
      // now we expect a number of continuation bytes, depending on the number of ones following the 11
      size_t nCont = 0;
      if (b < 0xE0) // two bytes sequence: 110xxxxx 10xxxxxx
        nCont = 1;
      else if (b < 0xF0) // three bytes sequence: 1110xxxx 10xxxxxx 10xxxxxx
        nCont = 2;
      else if (b < 0xF8) // four bytes sequence: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
        nCont = 3;
      else if (b < 0xFC) // five bytes sequence: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
        nCont = 4;
      else if (b < 0xFE) // six bytes sequence: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
        nCont = 5;
      else
        return OTHER; //  no multibyte sequence starts with 1111111x
      while (nCont--)
        if (((unsigned char)*(cs++) & 0xC0) != 0xC0) // in case string ends, 0 is found so the following test prevents us from illegal memory access
          return OTHER; //  each continuation byte must starts with 10xxxxxx
      d = UTF8;
    }
  }
  return d;
}