首页 > 数据库 >MySQL如何优雅的执行DDL

MySQL如何优雅的执行DDL

时间:2024-07-18 14:51:49浏览次数:20  
标签:字节数 pt MySQL 优雅 Online 操作 osc DDL

一、前言

关于MySQL DDL表结构变更,各个工单平台基本上都支持了pt-osc及Online DDL的方式,但是,我相信仍然有一大部分人,不太了解这两种方式各自的优缺点是啥,以至于实际当中,会稀里糊涂的随机选一种去执行,选对了固然好,选错了,自然免不了领导的一顿K,这......当然是开玩笑的哈。

 

在各搜索平台上,介绍关于pt-osc及Online DDL工作原理的文章,不计其数,但是,对于非专业选手而已,又有几个人是完全吃透的呢?所以,在这,不打算对其原理再重复一遍,仅从他们的执行机制角度出发,介绍各种DDL在选择不同方式时所产生的影响,并基于此来分析该如何选择。

 

另,现在普遍使用的版本为5.7,所以,咱就以 MySQL 5.7.24 版本为例。

 

二、pt-osc及Online DDL执行机制

2.1 Online DDL

•机制:MySQL通过Innodb引擎在内部执行一系列的操作进行表变更,当然,同一个表,不同的DDL,会有不同效果,甚至会出现一天上一个地下的差异,所以不同DDL,后面再对其进行具体分析;如果有从库,则在主库执行完成后,从库再操作一遍,动作和主库一模一样(执行时间也很接近)。 •优点:这个咱后面在讲具体SQL时再进行具体分析。 •缺点: ◦某些场景下,会锁表引发堵塞增删改操作,这个是需要重点注意的,具体场景后面会标红说明。 ◦如果有从库,这有一个很致命的弱点:复制延迟。因为主库执行的动作,会在从库再来一遍,如果这个动作是非常耗时的,那在从库执行(重放主库的动作)的时间点开始,其后续所有动作都被堵塞住,直到从库也执行完这个DDL后,才会继续按顺序执行其他SQL。这就就意味着,从从库执行开始,从库复制就出现了延迟,延迟的时间会慢慢变大,直到DDL执行完后,延迟才会慢慢变小。 ◦存在数据copy的情况时,需要额外的磁盘空间,但有可能同样的SQL,空间需求会比使用pt-osc低。 ◦特殊情况:云侧MySQL RDS,本身有一个隐藏从库用于高可用,因为这个隐藏从库不对外提供服务,所以基本上业务侧也不需要去关注他。但极端情况,如果大表DDL操作使用Online DDL模式时,在隐藏从库正在执行DDL期间,主库挂了,那常理就需要切换到隐藏从库,才能继续提供服务,但为了保证数据的一致性,隐藏从库必须要等DDL执行完,再回放DDL之后的binlog,然后,才能将其提升为主库,对外提供服务,所以这个恢复时间有可能很长。总得来讲,这个情况对业务而言也是致命的,只不过概率极低。

 

2.2 pt-osc

•机制:创建一个新临时表,并在老表上创建3个触发器,再进行新老表的数据同步,直至新老表数据一致后,再进行表名互换,达到表变更的目的。不同的DDL,只要pt-osc支持,他的操作方式都是一样的,这点与Online DDL完全不同。 •优点: ◦可以设置相应的参数,根据主、从库负载(比如复制延迟)的情况,动态调整数据拷贝速度,整个表结构变更过程相对比较温和。 ◦不会引发从库复制延迟超级大的情况; ◦执行完后,新表会将老表占用的碎片空间完全释放掉。 •缺点: ◦需要将老表的所有数据都拷贝到新表上,这就意味着拷贝期间,磁盘IO可能较高。 ◦要拷贝全量数据,所以执行时间也会很长。 ◦新临时表存放数据也需要空间(最大空间需求可能和原表一样),拷贝数据时还会产生大量binlog,所以对于本来空间就紧张的实例而言,这方式真的是雪上加霜。

 

2.3 加锁

加锁情况,想必是大家使用时关心较多的一个问题,但是,我想说,MySQL 5.7加锁情况会比你想象中的要好。Online DDL及pt-osc,大部分情况下,只会在执行前后加表元数据锁,其在获取到表元数据锁并上锁后,在极短时间内做完后续相关动作,紧接着就会将锁释放掉。Online DDL除特殊操作外(后面会说明),大部分情况下,不会对现有业务造成堵塞影响。在业务足够繁忙时,反而有可能会出现表结构变更操作获取不到表元数据锁(锁等待超时),从而导致执行失败的情况。

 

三、各种DDL操作

在具体分析后面各种DDL之前,咱统一假设要操作的表足够大,要不然表太小的话,不管什么方式都是瞬间完成,就没有对比的意义了。另,编写的DDL语句,如果想用Online DDL方式,咱也不需要刻意去指定 ALGORITHM 及 LOCK 选项,就让MySQL自动判断后默认选择就好。

 

下面,咱就从MySQL官方文档Online DDL对各种操作的支持角度去分析两种方式的差异情况。当然,如果你的DDL语句同时含有好几种不同的操作,那就以最坏的那种情形做参考即可。

 

3.1 索引操作

图一:Online DDL 索引操作

 


 

 

3.1.1 创建普通二级索引

Online DDL:从图一,我们可以看出,这会选择In Place的方式执行,整个过程,只会涉及到拷贝二级索引列相关的数据用于创建索引,所以需要拷贝的数据,相对于pt-osc而已,肯定会少很多,反过来说,执行需要的时间也相对会少。如果没从库,不存在复制延迟的问题,那选择Online DDL显然会比pt-osc更优;但如果有从库,那复制延迟的问题,自然是需要考虑的,而且大表复制延迟的时间,当然也会较长,如果接受不了延迟,那直接选pt-osc就好。

 

pt-osc:复制整个表的数据用于建新表,优势是有从库时,几乎不存在复制延迟的问题;劣势也很明显,因为拷贝整个表的数据,所以时间长,同时磁盘IO也会变高。

 

3.1.2 删除索引、索引重命名

Online DDL:从图一可以看到Only Modifies Metadata对应的是YES,也就意味着仅修改元数据,速度非常快,几乎瞬间完成,必选Online DDL。

 

pt-osc:直接无视

 

3.1.3 变更索引类型、全文索引、空间索引

咱现在使用的索引类型基本上都是BTREE,几乎很少用到HASH,同时也很少见到有用全文索引及空间索引的,所以,这几种咱就不讨论了。

 

3.2 唯一索引及主键操作

图二:Online DDL主键操作

 


 

 

因为pt-osc拷贝数据的过程,会依赖于唯一键(主键或者唯一索引)来校验数据的一致性,对唯一键进行相关的操作可能会引发各种各样的问题,所以不管pt-osc实际支持或不支持这类操作,咱都直接默认为不支持就好。也就是涉及主键及唯一索引相关的操作,都直接选Online DDL。但是,需要注意的是,单独删除主键的操作,会引发锁表,导致不允许对表进行其他增删改的操作,也就是增删改会被堵塞住,这操作需要慎重考虑。而同一个DDL里面,删除老主键的同时又加上新主键,是不会引起堵塞的。

 

3.3 列操作

图三:Online DDL列操作

 


 

 

3.3.1 添加列、删除列、重排列顺序、变更列类型、修改列为空或非空

Online DDL:从图三可以看出,这6种DDL操作,在选择Online方式时,都会重建表,效果上与pt-osc并无太大差别,还得担忧从库复制延迟的问题,那既然如此,直接选择pt-osc的方式更省事。

 

Online DDL以下这几种情况会锁表,堵塞其他增删改操作,需要注意:

1)增加一个自增列。

2)单纯修改列类型。

3)修改列名,同时修改了列类型(该情形应该算修改列类型的一个特殊例子)(只支持 Online DDL)。

 

pt-osc:首选。需要注意的是,因为pt-osc不支持修改列名,所以上述的第三点,只能选择Online DDL的方式执行,但是选择Online DDL,又会出现锁表导致堵塞其他增删改的操作,所以慎重。

 

3.3.2 VARCHAR列增加列大小

Online DDL:MySQL底层在存储变长列VARCHAR列的内容时,还会额外记录内容占用字节数的大小,记录这个大小,也是需要空间的。另外,还有个东西咱需要了解下,VARCHAR列存储一个字符,使用utf8字符集时,最大需要3字节(比如存储一个中文字符),而utf8mb4最大需要4字节(比如存储一个表情符)。知道了使用什么字符集,咱就可以计算出存储一个VARCHAR变长列最大需要多少字节了。

 

列存储最大需要字节数 = VARCHAR列定义的长度 * 不同字符集存储单个字符需要最大字节数

 

而记录列占用字节数大小,所需的空间,会根据 列存储最大需要字节数 细分出两种情况:

1)列存储最大需要字节数为0-255时,记录列占用字节数大小需要1字节。

2)列存储最大需要字节数为256-65535时,记录列占用字节数大小需要2字节。

3)因表数据行,非大对象的列,总的存储内容长度限制就是65535,所以,单列VARCHAR存储需求自然也不能超过这个限制,也就是不存在超过65535的情况。

 

回归正题,VARCHAR列增加大小:

1)如果列长度增加后,记录列占用字节数大小所需字节数不变,也就是列存储最大需要字节数依然在同一个范围内:0-255或256-65535,那这类操作,ALGORITHM支持使用 In Place算法,只会修改表的元数据信息,瞬间完成,此情形,直接选Online DDL即可。

2)如果列长度增加后,记录列占用字节数大小所需字节数变了,从1字节变成2字节,ALGORITHM 则只支持COPY算法,这就意味着会出现数据拷贝的情况,同时会堵塞其他增删改的操作,这情形选pt-osc。

 

例子:

# 建表
create table t1(name varchar(10) null) charset=utf8mb4;

# 列存储最大需要字节数计算:长度 10,utf8mb4字符集存储单字符最大需要字节数 4
# 列存储最大需要字节数 = 10 * 4 = 40
# 记录列占用字节数大小所需空间为1字节


# 表结构变更一
alter table t1 modify name varchar(63) null;

# 列存储最大需要字节数计算:长度 63,utf8mb4字符集存储单字符最大需要字节数 4
# 列存储最大需要字节数 = 63 * 4 = 252
# 记录列占用字节数大小所需空间依然为1字节,ALGORITHM默认选用In Place,Online DDL执行瞬间完成


# 表结构变更二
alter table t1 modify name varchar(64) null;

# 列存储最大需要字节数计算:长度 64,utf8mb4字符集存储单字符最大需要字节数 4
# 列存储最大需要字节数 = 64 * 4 = 256
# 记录列占用字节数大小所需空间变为2字节,ALGORITHM只能使用COPY,引发数据拷贝,堵塞其他增删改操作,选择pt-osc

 

pt-osc:根据上述信息选合适的。

 

3.3.3 修改列名(只改列名)、设置/删除默认值、修改ENUM/SET列定义

Online DDL:从图三可以看出,这类操作会只修改表元数据信息,速度极快,直接选Online DDL方式即可

 

pt-osc:直接无视

 

3.3.4 修改自增列的自增值

Online DDL:在MySQL 8.0版本前,自增值不存在持久化的概念,修改这个值,只会在内存中修改,更不涉及数据的拷贝及变动,所以直接使用Online DDL方式即可。

 

pt-osc:直接无视

 

3.4 Generated列操作

图四:Online DDL 虚拟列操作

 


 

 

3.4.1 新增/删除Generated虚拟列

Online DDL:虚拟列不涉及数据存储的问题,所以新增和删除都只会涉及到表元数据的变更,几乎瞬间完成,直接选用Online DDL方式执行即可。

 

pt-osc:直接无视

 

3.4.2 新增/修改/删除Generated存储列、修改Generated虚拟列顺序

Online DDL:这几种操作,在选择Online DDL时,都会涉及到表重建的问题,大表执行时间不会短,另外,新增/修改Generated存储列 以及 修改Generated虚拟列顺序,都会锁表,引发堵塞其他增删改操作,所以,建议选pt-osc。

 

pt-osc:首选

 

3.5 外键操作

图五:Online DDL外键操作

 


 

 

如果表存在外键依赖,后期对父表进行各种DDL操作时,数据库会有较大的风险,严重的甚至会锁表,所以不建议用外键。

 

3.6 表操作

图六:Online DDL表操作

 


 

 

3.6.1 修改表名

Online DDL:从图六看出,Online DDL修改表名,只会涉及到修改表的元数据信息,瞬间完成。

 

pt-osc:不支持

 

3.6.2 表碎片整理、更改行格式、修改字符集、收集统计信息

Online DDL:咱对表的操作,常用到的,可能就是表碎片整理、更改行格式(比如改成压缩模式),修改字符集(含内容转换)以及收集统计信息,这些操作,从图六也看到了,基本都是需要重建表,建议首选pt-osc。

 

pt-osc:首选

 

3.6.3 其他相关的表操作

其他操作平常基本很少用到,暂时不讨论。

 

3.7 表空间操作

图七:Online DDL表空间操作

 


 

 

在实际使用中,几乎见不到,咱就不讨论了。

 

3.8 表分区操作

图八:Online DDL表分区操作

 


 

 

表分区相关的操作较多,咱就挑比较常用的进行分析,其他操作不做赘述。

 

3.8.1 普通表转分区表

Online DDL:他的本质是新建一个临时表,每个分区对应一个数据文件,然后进行拷贝,拷贝完毕后,表名互换,删除老表。眼熟不?从某种程度上讲,这个过程与pt-osc是相似的,但是,Online DDL方式会锁表,堵塞其他增删改操作,所以,直接选择pt-osc方式即可。

 

pt-osc:必选

 

3.8.2 新增分区、删除分区、TRUNCATE分区

Online DDL:

新增分区,只分析常用的RANGE及LIST分区。RANGE分区新增分区,有个严格的限制,新分区less than的值必须是递增的,换句话讲就是不存在数据拷贝的问题。LIST分区,这个更直接,相关内容如果在LIST分区中不存在,直接不允许插入,新增分区也不存在数据拷贝的问题。所以,这两种选用Online DDL时,操作几乎都是瞬时完成的,直接使用Online DDL即可。

 

删除分区时,会对当前分区上锁,堵塞该分区的其他增删改操作,但既然你都打算删除分区了,想必自然也不会再对该分区有其他操作。 其对应系统底层的操作,类似于直接将分区对应的物理文件进行删除,操作时,如果文件足够大,系统IO会瞬间暴涨,继而影响业务,所以建议在业务低峰期间进行。

 

TRUNCATE分区操作,对应系统底层的操作,类似于直接将分区对应的物理文件进行清空,操作时,如果文件足够大,系统IO会瞬间暴涨,继而影响业务,所以建议在业务低峰期间进行。

 

pt-osc:直接无视

 

四、结束语

从上面的介绍可以看出,DDL相关的操作较多,想要完全记住各种操作选那种方式最合适,想必也是件费神的事情。如果上面信息对你有用,点赞收藏起来,用到时再慢慢参考即可。

 

 

参考:

https://dev.mysql.com/doc/refman/5.7/en/innodb-online-ddl-operations.html#online-ddl-column-operations

标签:字节数,pt,MySQL,优雅,Online,操作,osc,DDL
From: https://www.cnblogs.com/Jcloud/p/18309509

相关文章

  • MySql指定数据库全量备份,保存七天
    1.mysql-bak.sh文件#配置变量DB_USER="root"DB_PASSWORD="xxx"DATABASES=("dbname1""dbname2")BACKUP_DIR="/data/mysql-bak"DATE=$(date+%Y%m%d)#创建备份文件名,包括时间戳forDB_NAMEin${DATABASES[*]}do BACKUP_NAME=&q......
  • springboot访问多个mysql数据库配置多数据源
    一、参考地址:https://github.com/baomidou/dynamic-datasource二、使用方法引入dynamic-datasource-spring-boot-starter或者dynamic-datasource-spring-boot3-starter。spring-boot1.5.x2.x.x点击查看代码<dependency><groupId>com.baomidou</groupId><art......
  • SpringBoot整合MyBatis+MySQL
    一、添加mysql驱动mysqlmysql-connector-java二、添加MyBatis依赖org.mybatis.spring.bootmybatis-spring-boot-starter3.0.1三、添加配置spring:datasource:name:xx-datasourcedriverClassName:com.mysql.cj.jdbc.Driverurl:jdbc:mysql://127.0.0.1:3306/xx-......
  • Mysql联合索引和索引条件下推
    1、概念介绍联合索引联合索引和聚集索引一样使用B+树结构存储,联合索引的索引节点存储多个键值对,按首列数值排序,叶子节点存放所有的索引值以及对应的主键,如果需要查询非联合索引中的字段需要进行回表查询。联合索引的大小小于聚集索引。索引覆盖InnoDB存储引擎支持覆盖索引(cov......
  • mysql函数使用总结
    计算视频的完播率:https://www.nowcoder.com/discuss/353150021023506432?urlSource=sitemapSELECTvideo_id,ROUND((100*comp_play_rate+5*like_cnt+3*comment_cnt+2*retweet_cnt)/(TIMESTAMPDIFF(DAY,recently_end_date,cur_date)+1),0)ashot_indexFR......
  • 使用Spring Boot AOP和自定义注解优雅实现操作日志记录
    使用SpringBootAOP和自定义注解优雅实现操作日志记录大家好,今天我们来聊聊如何在SpringBoot项目中,通过AOP(面向切面编程)和自定义注解,优雅地实现操作日志记录。操作日志对于系统的可维护性和安全性至关重要,它能帮助我们追踪用户行为,排查问题。什么是AOP?AOP,全称Aspect-Oriented......
  • docker-compose -- 创建 redis && mysql
    version:'3'services:nest-admin-web:image:buqiyuan/vue3-antdv-admin:stablecontainer_name:nest-admin-webvolumes:-./deploy/web:/etc/nginx/conf.dports:-'80:80'restart:alwaysnetworks:......
  • 一些数据库专家称,最新的 MySQL 版本令人失望
    据分析师认为,Oracle 的重点在其他方面,但要说所有创新都可以在社区版中运行是“不公平”的。MySQL 的最新版本让一些评论员和开发者们感到失望,他们担心开源数据库的管理者Oracle可能有其他的“优先事项”。本月初,长期以来一直推销其自有专有数据库系统的Oracle发布了MySQL ......
  • Java语言,MySQL数据库;基于Node+Vue的健康信息管理系统的设计与实现32355(免费领源码)计算
    Node.js健康信息管理系统的设计摘要在如今IT技术快速发展和Internet广泛应用的时代,电子和网络技术给人们生活带来了便利,同时也会直接或间接损害人们的健康。所以,本次的毕业设计创作的意义就是通过信息化的统一管理,给用户录入和查看健康信息提供了方便。本设计主要实现集人......
  • 使用SqlSugar操作MySQL/SQL Server数据库
    一、框架简介SqlSugar 是一款老牌.NET开源ORM框架,由果糖大数据科技团队维护和更新,开箱即用最易上手的ORM 优点:【生态丰富】【高性能】【超简单】【功能全面】【多库兼容】【适合产品】 二.SqlSugar连接MySQL数据库publicclassMySqlCNHelper:Singleton......