首页 > 编程语言 >c++中utf8字符串和gbk字符串的转换

c++中utf8字符串和gbk字符串的转换

时间:2024-09-16 22:23:57浏览次数:12  
标签:std UTF string utf8 nullptr gbk gbkStr 字符串 CP

这个功能C++语言本身似乎没有标准实现,需要借助于第三方库或者操作系统API。不得不吐槽一下这么重要的功能居然还没有办法依赖C++语言本身来实现,C++标准委员会真是不干人事啊。那就不废话了,直接给出windows下的实现。

std::string Utf8ToGbk(const std::string& utf8Str) {
  // Step 1: Convert UTF-8 to Wide Char (UTF-16)
  int wideCharLen =
      MultiByteToWideChar(CP_UTF8, 0, utf8Str.c_str(), -1, nullptr, 0);
  if (wideCharLen == 0) {
    throw std::runtime_error("Failed to convert from UTF-8 to wide char.");
  }

  std::wstring wideStr(wideCharLen, 0);
  MultiByteToWideChar(CP_UTF8, 0, utf8Str.c_str(), -1, &wideStr[0],
                      wideCharLen);

  // Step 2: Convert Wide Char (UTF-16) to GBK
  int gbkLen = WideCharToMultiByte(CP_ACP, 0, wideStr.c_str(), -1, nullptr, 0,
                                   nullptr, nullptr);
  if (gbkLen == 0) {
    throw std::runtime_error("Failed to convert from wide char to GBK.");
  }

  std::string gbkStr(gbkLen, 0);
  WideCharToMultiByte(CP_ACP, 0, wideStr.c_str(), -1, &gbkStr[0], gbkLen,
                      nullptr, nullptr);

  // Remove the null terminator added by the conversion functions
  gbkStr.pop_back();

  return gbkStr;
}

std::string GbkToUtf8(const std::string& gbkStr) {
  // Step 1: Convert GBK to Wide Char (UTF-16)
  int wideCharLen =
      MultiByteToWideChar(CP_ACP, 0, gbkStr.c_str(), -1, nullptr, 0);
  if (wideCharLen == 0) {
    throw std::runtime_error("Failed to convert from GBK to wide char.");
  }

  std::wstring wideStr(wideCharLen, 0);
  MultiByteToWideChar(CP_ACP, 0, gbkStr.c_str(), -1, &wideStr[0], wideCharLen);

  // Step 2: Convert Wide Char (UTF-16) to UTF-8
  int utf8Len = WideCharToMultiByte(CP_UTF8, 0, wideStr.c_str(), -1, nullptr, 0,
                                    nullptr, nullptr);
  if (utf8Len == 0) {
    throw std::runtime_error("Failed to convert from wide char to UTF-8.");
  }

  std::string utf8Str(utf8Len, 0);
  WideCharToMultiByte(CP_UTF8, 0, wideStr.c_str(), -1, &utf8Str[0], utf8Len,
                      nullptr, nullptr);

  // Remove the null terminator added by the conversion functions
  utf8Str.pop_back();

  return utf8Str;
}

这段代码的原理很简单:

  1. CP_ACP的意思就是本地编码,就是操作系统系统定义的默认编码,依赖于当前操作系统的语言和地区设置。在中文环境下就是GBk系列的中文编码,例如GB2312、GBK或GB18030。
  2. 需要使用宽字节字符串来进行中转,在Windows下,std::wstring是16字节字符串,使用UTF-16编码。这一点有点类似于C#的string和Java的string,都是UTF-16编码。
  3. MultiByteToWideChar和WideCharToMultiByte都是操作系统的C接口,输入和返回的字符串都带'\0',因此转到c++的string需要去掉最后的'\0'字符。这一点需要注意。

测试了用例没有问题。测试Utf8ToGbk:

  // string utfStr = u8"这是一个测试的中文字符串,检查一下";
  // string utfStr = u8"测试";
  string utfStr = u8"abcdefg";

  string gbkStr = Utf8ToGbk(utfStr);

  // cout << gbkStr << "-------" << endl;
  // cout << gbkStr.length() << endl;
  // cout << gbkStr.c_str() << endl;
  // cout << strlen(gbkStr.c_str()) << endl;

测试GbkToUtf8:

#ifdef _WIN32
  SetConsoleOutputCP(65001);
#endif

  // string gbkStr = "测试";
  string gbkStr = "这是一个测试的中文字符串,检查一下";
  // string gbkStr = "abcdefg";
  cout << gbkStr.length() << endl;

  string utfStr = GbkToUtf8(gbkStr);

  cout << utfStr << endl;
  cout << utfStr.length() << endl;

以上是Windows的实现,Linux环境要使用别的办法,例如使用iconv库。

标签:std,UTF,string,utf8,nullptr,gbk,gbkStr,字符串,CP
From: https://www.cnblogs.com/charlee44/p/18416702

相关文章

  • 字符函数和字符串函数
    1.字符分类函数 C语⾔中有⼀系列的函数是专⻔做字符分类的,也就是⼀个字符是属于什么类型的字符的。这些函数的使⽤都需要包含⼀个头⽂件是ctype.h2.字符转换函数C语⾔提供了2个字符转换函数: inttolower(intc);//将参数传进去的⼤写字⺟转⼩写inttoupper(......
  • 05. 字符串
    一、什么是字符串  字符串用来表示一段文本信息。在Python中,字符串需要使用引号引起来,引号可以是单引号,也可以是双引号,但是不要混的用。相同的引号间不能嵌套使用。s='hello'print(s)print(type(s))s="hello"print(s)print(type(s))  如果双引号和单引号混合......
  • MySQL篇(高级字符串函数/正则表达式)(持续更新迭代)
    目录讲点一:高级字符串函数一、简介二、常见字符串函数1.CONCAT()2.SUBSTRING()3.LENGTH()4.REPLACE()5.TRIM()6.UPPER()7.LOWER()8.LEFT()9.RIGHT()10.INSTR()11.LENTH(str)讲点二:正则表达式一、简介二、语法1.字符类2.重复次数3.通配符4.......
  • leetcode438.找到字符串中所有字母异位词、leetcode3.无重复字符的最长子串、leetcode
    leetcode438、找到字符串中所有字母异位词给定两个字符串s和p,找到s中所有p的异位词的子串,返回这些子串的起始索引。不考虑答案输出的顺序。异位词指由相同字母重排列形成的字符串(包括相同的字符串)。示例1:输入:s=“cbaebabacd”,p=“abc”输出:[0,6]......
  • [C高手编程] 字符串处理:长度、危险操作、格式化与字符串化
    ......
  • 删除字符串末尾的*(星号)
    要求假定输入的字符串中只包含字母和*号。请编写函数fun,它的功能是:将字符串尾部的*号全部删除,前面和中间的*号不删除,例如,字符串中的内容为:****A*BC*DEF*G******,删除后,字符串中的内容应当是:***A*BC*DEF*G。在编写函数时,不得使用C语言提供的字符串函数。(不能使用strlen)解......
  • cJSON-轻量级解析模块、字符串的神——编织STM32C8T6与阿里云信息传递的纽带
            编写方向:本人就不泛泛的编写一篇什么一文学会cJSON了,没什么突出点,也就我水水字数,你们看来看去也不懂,本人是从上阿里云传信息接触的cJSON的,我就此写一篇针对性的文章,希望对大家有用,后期我在其他方面用到还会继续更新。一、简介        cJSON是一个用C......
  • 除了字符串前导的*号之外,将串中其它*号全部删除
    要求假定输入的字符串中只包含字母和*号。请编写函数fun,它的功能是:除了字符串前导的*号之外,将串中其它*号全部删除。在编写函数时,不得使用C语言提供的字符串函数。函数fun中给出的语句仅供参考。例如,字符串中的内容为:-****A*BC*DEF*G******,删除后,字符串中的内容应是:****AB......
  • 字符串哈希&线段树维护字符串哈希
    本文哈希数组均为1-index,原始字符串均为0-index。哈希值类typedefunsignedlonglongull;ullbs=13131,bspw[MAXN];inlinevoidinit_bspw(){bspw[0]=1;for(inti=1;i<MAXN;i++)bspw[i]=bspw[i-1]*bs;}structHashNode{ullval;intlen;......
  • 字符串处理
    概念理解c风格字符串字符数组大小比字符串多一个chars[6]={'H','e','l','l','o','\0'};chars[]="Hello";用法1.存储方式及赋值'\0'占用存储空间,不计入长度作为变量使用时,不可s="hellow"s1=s2只可以逐个字符赋值sscanf(s,&......