C ++将UTF-8字符串转换为ICU的StringPiece

时间:2016-01-12 17:27:11

标签: c++ string utf-8 icu

第一次在这里发帖,如果我的标题/格式/标签不符合预期,请提前道歉。

我正在尝试在c ++ Windows控制台应用程序中创建一个函数,该函数将从std::wstring用户输入中删除变音符号。为此,我使用在this question的帮助下创建的代码以及将我的wstring转换为UTF-8字符串,如下所示:

std::string test= wstring_to_utf8 (input);

std::string wstring_to_utf8 (const std::wstring& str){
 std::wstring_convert<std::codecvt_utf8<wchar_t>> myconv;
 return myconv.to_bytes(str);
}

std::string output= desaxUTF8(test);

使用desaxUTF8(...):

#include <unicode/utypes.h>
#include <unicode/unistr.h>
#include <unicode/ustream.h>
#include <unicode/translit.h>
#include <unicode/stringpiece.h>

std::string desaxUTF8(const std::string& str) {

StringPiece s(str);
UnicodeString source = UnicodeString::fromUTF8(s);
//...
return result;
}

这是我遇到问题的地方。 StringPiece s未正确接收string str的值,而是设置为不正确的值。

但是,如果我要用硬编码值替换StringPiece s(str);,比如StringPiece s("abcš");,那么它的效果非常好。

使用VS2015调试器,用户输入s的StringPiece abcš上的值不正确0x0028cdc0 "H\t„",而硬编码abcš的值是正确的0x00b483d4 "abcš"

我做错了什么,解决这个问题的最佳方法是什么?我已经尝试过this thread推荐的解决方案。

我花了两天时间试图找到一个无济于事的解决方案,所以任何帮助都会非常感激。

提前谢谢。

发表回答编辑:对于任何有兴趣的人,这是工作代码,非常感谢Steven R. Loomis实现这一目标;

std::wstring Menu::removeDiacritis(const std::wstring &input) {

UnicodeString source(FALSE, input.data(), input.length());
UErrorCode status = U_ZERO_ERROR;
    Transliterator *accentsConverter = Transliterator::createInstance(
    "NFD; [:M:] Remove; NFC", UTRANS_FORWARD, status);
accentsConverter->transliterate(source);

std::wstring output(source.getBuffer(), source.length());
return output;
}

1 个答案:

答案 0 :(得分:0)

@NuSkooler(嗨!)当然是现货。在任何情况下,请尝试在UnicodeStringstd::wstring 之间进行转换,如果 std::wstring实际上是UTF-16。 (未经测试)

std::wstring doSomething(const std::wstring &input) {

#if(sizeof(wchar_t) != sizeof(UChar))
#error no idea what (typically underspecified) wchar_t actually is.
#else

// source is a read-only alias to the input data
const UnicodeString source(FALSE, input.data(), input.length());

// DO SOMETHING with the data
UnicodeString target = SOME_ACTUAL_FUNCTION(source); // <<<< Put your actual code here

// construct an output wstring 
std::wstring output(target.getBuffer(), target.length());

// return it
return output;
#endif
}