首页 > 数据库 >专治 MySQL 乱码, 再也不想看到�了

专治 MySQL 乱码, 再也不想看到�了

时间:2023-10-12 12:07:05浏览次数:49  
标签:专治 编码 set UTF character GBK 乱码 MySQL


1、MySQL编码过程

MySQL出现乱码的原因有很多,一般与character_set参数有关。我们先来看看有哪些参数:

SHOW VARIABLES LIKE "character%";
Variable_name Value
character_set_client utf8
character_set_connection utf8
character_set_database utf8
character_set_filesystem binary
character_set_results utf8
character_set_server utf8
character_set_system utf8
character_sets_dir /usr/local/Cellar/[email protected]/5.7.24/share/mysql/charsets/

其中,最主要的是character_set_client和character_set_results。这两个参数分别有什么用呢?

在客户端将一条命令输入MySQL时,MySQL只知道这条命令是0101的字节流,并不知道具体采用的是什么编码。第一个参数character_set_client就告诉了MySQL,这条命令是UTF-8编码,于是MySQL会使用UTF-8解码字节流。当MySQL成功解码以后,会将命令内容转化为目标表格的编码。

表格的编码可以通过以下命令查看:

SHOW FULL COLUMNS FROM student;

假设MySQL的character_set_client设置为UTF-8,表格的编码为GBK。如果在UTF-8的终端中输入:INSERT INTO student VALUES ('小明', 12),MySQL首先会用UTF-8解码这条命令,再将“小明”两个字转换为对应的GBK编码,最后存入表中。

另外一个参数character_set_results是指查询结果输出的编码。如果表格的编码是GBK,character_set_results设置为UTF-8,那么在表格中查询的内容会首先转换为UTF-8编码,再输出到终端。

MySQL数据读取和写入的流程可以用下图表示:

专治 MySQL 乱码, 再也不想看到�了_mysql

从图中可以看出,当存入表格的解码/编码过程和读取表格的解码/编码过程对应不上时,就会出现乱码。

如果要改变character_set_client和character_set_results,可以方便地执行一条命令:

SET names gbk;
Variable_name Value
character_set_client gbk
character_set_connection gbk
character_set_database utf8
character_set_filesystem binary
character_set_results gbk
character_set_server utf8
character_set_system utf8
character_sets_dir /usr/local/Cellar/[email protected]/5.7.24/share/mysql/charsets/

这样,character_set_client和character_set_results就被修改成了GBK。

2、UTF-8、GBK和Latin-1

UTF-8、GBK和Latin-1是MySQL中最常见的三种编码形式。

  • 它们都向下兼容ASCII。同一串使用ASCII编码的字符,转化为UTF-8、GBK和Latin-1以后的结果是一样的。因此,假设客户端传入了SET NAMES latin1这条指令,不论character_set_client设置为UTF-8、GBK还是Latin-1,都可以正常解码并执行。
  • Latin-1是单字节编码,其编码范围是0x00-0xFF。也就是说任意的8位二进制字节都可以对应于Latin-1中的字符。
  • UTF-8的表示范围远大于GBK。所有Latin-1字符都能转换为UTF-8字符,但不一定能转换为GBK字符。

以上几点为MySQL“错进错出”提供了条件。所谓的错进错出,是指客户端的字符编码和最终表的字符编码格式不同,但是只要保证存和取两次的字符集编码一致就仍然能够获得没有乱码的输出的这种现象。

3、错进错出

我们先来考虑这样一条命令:

INSERT INTO table VALUE("啊");

假设终端编码的方式是GBK,“啊”的二进制表示方式就是10110000 10100001。MySQL拿到这个命令以后,通过character_set_client指定的编码方式进行解码。

  • 如果character_set_client是GBK,MySQL会认为这是一个“啊”字符;
  • 如果character_set_client是Latin-1,MySQL会将它看作两个单独的Latin-1字符(10110000) (10100001),最后解码得到°¡。
  • 如果character_set_client是UTF-8,由于10110000 10100001 并不是一个有效的UTF-8编码,所以要么报错,要么会替换为一个错误标识�。此时如果直接存入表中,就不能实现“错进错出”了。

因此,错进错出的一个必要条件是将character_set_client设置为Latin-1,如果设置为GBK或者UTF-8就无法保证能正确解码。

以上是解码的过程,当使用Latin-1解码完成以后,数据还要存入目标表格中。

  • 如果目标表格是Latin-1编码,解码完成的数据可以直接存入表中。
  • 如果目标表格是UTF-8编码,解码完成的数据先转换为UTF-8编码,再存入表中。
  • 如果目标表格是GBK编码,由于并不是每一个Latin-1编码的字符都能在GBK中找到对应的编码,所以在转码的过程中可能会报错。

因此,错进错出的另一个条件是目标表格必须是Latin-1或者UTF-8编码。

读取时,MySQL会将目标表格中的数据转化为character_set_results指定的编码。由于我们写入时使用的Latin-1,读取时也需要指定character_set_results为Latin-1。这样最终就实现了“错进错出”。

4、举个例子

假设有这样一张student表:

|name| age|
|----|----|
|小明|12|
|小红|10|

其中,name列编码为Latin-1,其储存的数据使用的编码为GBK。

也就是说向表里存入数据的人可能使用GBK的终端下执行了下列语句:

SET NAMES latin1;
INSERT INTO student VALUES ('小明', 12);

那么,如果我们现在使用的终端编码为UTF-8,要怎样从表中查询关于小明的信息呢?

1.可以尝试直接登陆MySQL,输入以下语句:

SELECT * FROM student WHERE name = "小明";

但这样做得到了一个错误:

ERROR 1267 (HY000): Illegal mix of collations (latin1_swedish_ci,IMPLICIT) and (utf8_general_ci,COERCIBLE) for operation '='

MySQL默认用户终端使用的是UTF-8编码,与表格的编码 Latin-1 不一致,于是MySQL会首先尝试把查询语句转换为Latin-1。但是Latin-1中没有对应“小明”这两个字的编码,因此会报错。

如果增加一条改变character_set_client的语句,会怎么样呢?

SET NAMES latin1;
SELECT * FROM students WHERE name = "小明";

这一次MySQL会认为用户的终端就是Latin-1编码,所以没有做转换操作。但最终查询到的结果却为空。

这是因为用户终端的编码是UTF-8, 因此传入的“小明”的编码也是UTF-8,而表格中的数据是GBK编码,它们在内存中的储存形式不同。因此,即便MySQL都将它们当作Latin-1处理,也不会认为它们相等。

不直接登陆MySQL,而是在Shell中先将查询语句转化为GBK编码,再传入MySQL:

echo "
SET names latin1;
SELECT * FROM student WHERE name = '小明';"\
| iconv -f utf8 -t gbk\
| mysql -uroot -p123 -Dtest

其中iconv的作用是将标准输入转换为指定的编码格式(这里是GBK),再通过标准输出传递给MySQL。我们得到了:

name    age
�� 12

能查询到结果,但名字部分是乱码。这是由于表格中储存的数据是GBK编码,而终端编码是UTF-8。所以还需要增加最后一步:将查询的结果转换为UTF-8。

echo "
SET names latin1;
SELECT * FROM student WHERE name = '小明';"\
| iconv -f utf8 -t gbk\
| mysql -uroot -p123 -Dtest\
| iconv -f gbk -t utf8

输出结果为:

name    age
小明 12

这样,我们终于得到了正确的信息。

如果表格本身就是GBK编码,而不是Latin-1,是否还需要这样的繁琐的步骤呢?

答案是不需要的。因为只要正确地设置了character_set_client和character_set_results,尽管表格的编码是GBK,MySQL在读写的过程中会自动进行转换。

PS:防止找不到本篇文章,可以收藏点赞,方便翻阅查找哦。

 

标签:专治,编码,set,UTF,character,GBK,乱码,MySQL
From: https://blog.51cto.com/zhongmayisheng/7825270

相关文章

  • MySQL 定时备份数据库
    在操作数据过程中,可能会导致数据错误,甚至数据库奔溃,而有效的定时备份能很好地保护数据库。本篇文章主要讲述了几种方法进行MySQL定时备份数据库。1、mysqldump命令备份数据在MySQL中提供了命令行导出数据库数据以及文件的一种方便的工具mysqldump,我们可以通过命令行直接实现数据......
  • 基于 MySQL 和 DynamoDB 的强一致性分布式事务实践
    在单体应用向微服务架构转型的过程中,本地事务已不再满足系统一致性需求,为了解决这一问题,前人在对性能和数据一致性反复权衡的过程中总结了许多典型的协议和算法,各有优劣。本文我们将深入探讨Freewheel如何实现无单点故障的可扩展分布式事务实现模型。1、为什么需要分布式事务?当应......
  • 技术分享| 二进制部署MySQL
    一、介绍​MySQL是一个关系型数据库管理系统,由瑞典MySQLAB公司开发,属于Oracle旗下产品。MySQL是最流行的关系型数据库管理系统之一,在WEB应用方面,MySQL是最好的RDBMS(RelationalDatabaseManagementSystem,关系数据库管理系统)应用软件之一。​MySQL是一种关系型数据......
  • 技术分享| 二进制部署MySQL
    一、介绍​MySQL是一个关系型数据库管理系统,由瑞典MySQLAB公司开发,属于Oracle旗下产品。MySQL是最流行的关系型数据库管理系统之一,在WEB应用方面,MySQL是最好的RDBMS(RelationalDatabaseManagementSystem,关系数据库管理系统)应用软件之一。​MySQL是一种关系型数据......
  • mysql复制数据库,数据库排序规则不一致问题
    mysql复制数据库步骤1.导出数据库sql文件mysqldump数据库名-h数据库地址-P数据库端口(3306可省略)-u账号-p密码--add-drop-table>/路径/sql文件名.sql 2.确认导出和导入数据库编码和排序规则是否一致showglobalvariableslike'%coll%'showglobalvariabl......
  • 2023_10_12_MYSQL_DAY_04_笔记
    2023_10_12_MYSQL_DAY_04_笔记14章课后作业CREATETABLExi(xidINTPRIMARYKEYAUTO_INCREMENT,xnameVARCHAR(10)UNIQUE,xheadVARCHAR(10)NOTNULL,xlocVARCHAR(30)DEFAULT'浑南区');CREATETABLEclass02(cnoINTPRIMARYKEY......
  • 对于ogg19 mysql 中如果mysql中存在json数据类型,进程会abend问题报错信息 OGG-00774
    对于ogg19mysql是不支持json的这个数据类型还是比较常见的,这个数据类型是在ogg21才开始支持,对于这种报错可以打补丁进行修复Bug29998662:MySQLExtractAbendsWithoutErrorwithJSONdatatypesinbinlog 参考自:MySQLExtractAbendsWithoutErrorWithJSONDataT......
  • 【MySQL】alter table TableName engine=InnoDB 完成表重建
    通过altertable来实现重建表原文地址:https://zhuanlan.zhihu.com/p/610997918mysql基础架构执行原理原文地址:https://blog.csdn.net/Kong_a/article/details/119775660MDL锁介绍原文地址:https://blog.csdn.net/weixin_43189971/article/details/126436023 1、应用背景在日......
  • Docker 安装mysql8.0
    环境CentOS7、MySQL8、SQLyog12需求在Docker中部署MySQL8步骤1、从docker仓库中拉去mysql8.0dockerpullmysql:8.0如果使用dockerpullmysql默认拉取的是最新版本的mysql上面我拉去的是8.0的版本,最后拉取过来的是8.0.27如果有想要指定的版本,可以直接写指定版本,......
  • MySQL 8.0参数最佳实践
    MySQL8.0.34版本my.cnf最佳实践参考实例[client]port=3307socket=/data/mysql/3307/run/mysql.sockdefault-character-set=utf8mb4[mysql]port......