首页 > 其他分享 >第十八讲:为什么我只查一行的语句,也执行这么慢?

第十八讲:为什么我只查一行的语句,也执行这么慢?

时间:2024-09-12 21:52:46浏览次数:9  
标签:语句 第十八 lock flush 只查 执行 id select

第十八讲:为什么我只查一行的语句,也执行这么慢?

img

引入

​ 一般情况下,如果我跟你说查询性能优化,你首先会想到一些复杂的语句,想到查询需要返回大量的数据。

​ 但有些情况下,“查一行”,也会执行得特别慢。今天,我就跟你聊聊这个有趣的话题,看看什么情况下,会出现这个现象。需要说明的是,如果 MySQL 数据库本身就有很大的压力,导致数据库服务器 CPU 占用率很高或 ioutil(IO 利用率)很高,这种情况下所有语句的执行都有可能变慢,不属于我们今天的讨论范围。

​ 为了便于描述,我还是构造一个表,基于这个表来说明今天的问题。这个表有两个字段 id 和 c,并且我在里面插入了 10 万行记录。

mysql> CREATE TABLE `t` (
  `id` int(11) NOT NULL,
  `c` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB;

delimiter ;;
create procedure idata()
begin
  declare i int;
  set i=1;
  while(i<=100000) do
    insert into t values(i,i);
    set i=i+1;
  end while;
end;;
delimiter ;

call idata();

​ 接下来,我会用几个不同的场景来举例,有些是前面的文章中我们已经介绍过的知识点,你看看能不能一眼看穿,来检验一下吧。

​ 第一类:查询长时间不返回如图 1 所示,在表 t 执行下面的 SQL 语句:

mysql> select * from t where id=1;

第一类:查询结果长时间不返回。


图 1 查询长时间不返回

​ 一般碰到这种情况的话,大概率是表 t 被锁住了。

​ 接下来分析原因的时候,一般都是首先执行一下 show processlist 命令,看看当前语句处于什么状态。然后我们再针对每种状态,去分析它们产生的原因、如何复现,以及如何处理。

等 MDL 锁

如图 2 所示,就是使用 show processlist 命令查看 Waiting for table metadata lock 的示意图。


图 2 Waiting for table metadata lock 状态示意图

​ 出现这个状态表示的是,现在有一个线程正在表 t 上请求或者持有 MDL 写锁,把 select 语句堵住了。在第 6 篇文章《全局锁和表锁 :给表加个字段怎么有这么多阻碍?》中,我给你介绍过一种复现方法。

​ 但需要说明的是,那个复现过程是基于 MySQL 5.6 版本的。而 MySQL 5.7 版本修改了 MDL 的加锁策略,所以就不能复现这个场景了。不过,在 MySQL 5.7 版本下复现这个场景,也很容易。如图 3 所示,我给出了简单的复现步骤。


图 3 MySQL 5.7 中 Waiting for table metadata lock 的复现步骤

session A 通过 lock table 命令持有表 t 的 MDL 写锁,而 session B 的查询需要获取 MDL 读锁。

​ 所以,session B 进入等待状态。

​ 这类问题的处理方式,就是找到谁持有 MDL 写锁,然后把它 kill 掉。

​ 但是,由于在 show processlist 的结果里面,session A 的 Command 列是“Sleep”,导致查找起来很不方便。不过有了 performance_schema sys 系统库以后,就方便多了。

(MySQL 启动时需要设置 performance_schema=on,相比于设置为 off 会有 10% 左右的性能损失)

[!WARNING]

要执行下面的操作之前:

执行一下

select * from performance_schema.setup_instruments where name='wait/lock/metadata/sql/mdl'

看一下ENABLED和TIMED是不是都是YES,只有两个都是YES的时候才能执行文章中说的操作。 具体可以参考官方文档: https://dev.mysql.com/doc/refman/5.7/en/sys-schema-table-lock-waits.html https://dev.mysql.com/doc/refman/5.7/en/metadata-locks-table.html

UPDATE performance_schema.setup_instruments SET ENABLED = 'YES', TIMED = 'YES' where name='wait/lock/metadata/sql/mdl';

​ 通过查询sys.schema_table_lock_waits这张表,我们就可以直接找出造成阻塞的 process id,把这个连接用 kill 命令断开即可。


图 4 查获加表锁的线程 id

等 flush

​ 接下来,我给你举另外一种查询被堵住的情况。

​ 我在表 t 上,执行下面的 SQL 语句:

mysql> select * from information_schema.processlist where id=1;

​ 这里,我先卖个关子。你可以看一下图 5。我查出来这个线程的状态是 Waiting for table flush,你可以设想一下这是什么原因。


图 5 Waiting for table flush 状态示意图

[!tip]

flush table:会关闭所有打开的表,同时对于所有数据库中的表都加一个读锁,直到显示地执行unlock tables,该操作常常用于数据备份的时候。也就是将所有的脏页都要刷新到磁盘,然后对所有的表加上了读锁

这个状态表示的是,现在有一个线程正要对表 t 做 flush 操作。MySQL 里面对表做 flush 操作的用法,一般有以下两个:

flush tables t with read lock;

flush tables with read lock;

​ 这两个 flush 语句,如果指定表 t 的话,代表的是只关闭表 t;如果没有指定具体的表名,则表示关闭 MySQL 里所有打开的表。

​ 但是正常这两个语句执行起来都很快,除非它们也被别的线程堵住了。所以,出现Waiting for table flush状态的可能情况是:有一个 flush tables 命令被别的语句堵住了,然后它又堵住了我们的 select 语句。

​ 现在,我们一起来复现一下这种情况,复现步骤如图 6 所示:


图 6 Waiting for table flush 的复现步骤

[!tip]

​ select sleep(1)from t 在t表的每一行都sleep 1 秒

​ 添加sleep(N)这个函数后,语句的执行具体会停留多长时间取决于满足条件的记录数,MySQL会对每条满足条件的记录停留N秒钟

​ flush table语句的作用是关闭不用的表格。但如果正准备关闭的表格有sql语句在执行,flush table语句就会被阻塞,在flush语句之后对该表格的DML语句也会被阻塞,需要等待flush语句执行完毕

​ 在 session A 中,我故意每行都调用一次 sleep(1),这样这个语句默认要执行 10 万秒,在这期间表 t 一直是被 session A“打开”着。

​ 然后,session B 的 flush tables t 命令再要去关闭表 t,就需要等 session A 的查询结束。这样,session C 要再次查询的话,就会被 flush 命令堵住了。

​ 图 7 是这个复现步骤的 show processlist 结果。这个例子的排查也很简单,你看到这个 show processlist 的结果,肯定就知道应该怎么做了。


图 7 Waiting for table flush 的 show processlist 结果骤

​ 就要先将slect sleep(1) from t 的进程先结束,然后然flush table t的命令执行完,select * from t where id=1 的命令就能执行了

​ select blocking_pid from sys.schema_table_lock_waits; 找出 pid 然后 kill 掉

等行锁

​ 现在,经过了表级锁的考验,我们的 select 语句终于来到引擎里了。

mysql> select * from t where id=1 lock in share mode; 

​ 上面这条语句的用法你也很熟悉了,我们在第 8 篇《事务到底是隔离的还是不隔离的?》文章介绍当前读时提到过。

共享锁 (lock in share mode)、排他锁 (for update)

​ 由于访问 id=1 这个记录时要加读锁,如果这时候已经有一个事务在这行记录上持有一个写锁,我们的 select 语句就会被堵住

​ 复现步骤和现场如下:


图 8 行锁复现

图 9 行锁 show processlist 现场

​ 显然,session A 启动了事务,占有写锁,还不提交,是导致 session B 被堵住的原因。这个问题并不难分析,但问题是怎么查出是谁占着这个写锁如果你用的是 MySQL 5.7 版本,可以通过 sys.innodb_lock_waits 表查到。查询方法是:

mysql> select * from sys.innodb_lock_waits where locked_table='`test`.`t`'\G

[!IMPORTANT]

​ 等行锁,可以使用show processlist命令查看。 可以通过sys.innodb_lock_waits表查。

​ 可以使用show processlist命令查看线程处于什么状态,比如session B被block,那么可以查到被block的原因,如wait for MDL lock;可以通过sys.innodb_lock_waits表查某个表的锁信息,如某个update锁行导致后续select被block。

​ 注意,这个语句里的test是库名字,要换成自己的库名字,另外,如果之前那个select语句Lock wait timeout exceeded;,也会导致这个语句查不到。

select * from sys.innodb_lock_waits where locked_table='`mysql_geek`.`t`'\G

图 10 通过 sys.innodb_lock_waits 查行锁

​ 可以看到,这个信息很全,4 号线程是造成堵塞的罪魁祸首。

​ 而干掉这个罪魁祸首的方式,就是 KILL QUERY 4 或 KILL 4。

​ 不过,这里不应该显示“KILL QUERY 4”。这个命令表示停止 4 号线程当前正在执行的语句,而这个方法其实是没有用的。因为占有行锁的是 update 语句,这个语句已经是之前执行完成了的,现在执行 KILL QUERY,无法让这个事务去掉 id=1 上的行锁。实际上,KILL 4 才有效,也就是说直接断开这个连接。这里隐含的一个逻辑就是,连接被断开的时候,会自动回滚这个连接里面正在执行的线程,也就释放了 id=1 上的行锁

kill query pid只是停止指定线程正在执行的语句; kill pid能直接断开连接,当连接被断开才会回滚这个连接里面正在执行的线程,也就能释放行锁。

第二类:查询慢

​ 经过了重重封“锁”,我们再来看看一些查询慢的例子。先来看一条你一定知道原因的 SQL 语句:

mysql> select * from t where c=50000 limit 1;

​ 由于字段 c 上没有索引,这个语句只能走 id 主键顺序扫描,因此需要扫描 5 万行。

​ 作为确认,你可以看一下慢查询日志。注意,这里为了把所有语句记录到 slow log 里,我在连接后先执行了 set long_query_time=0,将慢查询日志的时间阈值设置为 0


图 11 全表扫描 5 万行的 slow log

​ Rows_examined 显示扫描了 50000 行。你可能会说,不是很慢呀,11.5 毫秒就返回了,我们线上一般都配置超过 1 秒才算慢查询。但

​ 你要记住:坏查询不一定是慢查询。我们这个例子里面只有 10 万行记录,数据量大起来的话,执行时间就线性涨上去了。扫描行数多,所以执行慢,这个很好理解。

​ 但是接下来,我们再看一个只扫描一行,但是执行很慢的语句。

​ 如图 12 所示,是这个例子的 slow log。可以看到,执行的语句是

mysql> select * from t where id=1;

​ 虽然扫描行数是 1,但执行时间却长达 800 毫秒。


图 12 扫描一行却执行得很慢

​ 是不是有点奇怪呢,这些时间都花在哪里了?如果我把这个 slow log 的截图再往下拉一点,你可以看到下一个语句,

select * from t where id=1 lock in share mode

,执行时扫描行数也是 1 行,执行时间是 0.2 毫秒。

[!important]

lock in share mode是当前读,能马上返回结果 select 是一致性读,需要根据 undo log 来获取到更新前的值

未加锁采用一致性读,若当前存在事务更新过多版本并未提交将导致从当前undo_log回退版本从而致使查询时间长。


图 13 加上 lock in share mode 的 slow log

​ 看上去是不是更奇怪了?按理说 lock in share mode 还要加锁,时间应该更长才对啊。可能有的同学已经有答案了。如果你还没有答案的话,我再给你一个提示信息,图 14 是这两个语句的执行输出结果。

​ 可能有的同学已经有答案了。如果你还没有答案的话,我再给你一个提示信息,图 14 是这两个语句的执行输出结果。


图 14 两个语句的输出结果

[!important]

​ 第一条sql查询的是当前事务版本时,id = 1 时的值,但是第二条sql 查询可以得知当前值得最新版本的值为1000001,所以第一条在查询数据时需要进行记录版本的回滚,拿到自己事务可见的记录的版本。所以如果当前事务比较老并且当前这个数据存在大量的版本,那么就对该记录进行大量的回滚操作,消费个更多的时间。

​ 看到下面这个图片就理解了,第一个是获取很久版本视图的数据,需要往前回滚很多次。 第二个是当前读,就直接获取当前最新数据了

​ 第一个语句的查询结果里 c=1,带 lock in share mode 的语句返回的是 c=1000001。看到这里应该有更多的同学知道原因了。如果你还是没有头绪的话,也别着急。我先跟你说明一下复现步骤,再分析原因。


图 15 复现步骤

​ 你看到了,session A 先用 start transaction with consistent snapshot 命令启动了一个事务,之后 session B 才开始执行 update 语句。session B 执行完 100 万次 update 语句后,id=1 这一行处于什么状态呢?你可以从图 16 中找到答案。

[!NOTE]

​ 它用于启动一个新的事务,并立即为这个事务建立一个一致性读的快照(snapshot)。这个快照允许事务在读取数据时,看到的是事务开始时数据库的一个一致性状态,即使在这个事务执行期间,数据库中的数据因为其他事务的修改而发生了变化。


图 16 id=1 的数据状态

​ session B 更新完 100 万次,生成了 100 万个回滚日志 (undo log)。带 lock in share mode 的 SQL 语句,是当前读,因此会直接读到 1000001 这个结果,所以速度很快;而 select * from t where id=1 这个语句,是一致性读,因此需要从 1000001 开始,依次执行 undo log,执行了 100 万次以后,才将 1 这个结果返回。

​ 注意,undo log 里记录的其实是“把 2 改成 1”,“把 3 改成 2”这样的操作逻辑,画成减 1 的目的是方便你看图。

小结

​ 今天我给你举了在一个简单的表上,执行“查一行”,可能会出现的被锁住和执行慢的例子。这其中涉及到了表锁、行锁和一致性读的概念。在实际使用中,碰到的场景会更复杂。但大同小异,你可以按照我在文章中介绍的定位方法,来定位并解决问题。

问答

​ 最后,我给你留一个问题吧。

​ 我们在举例加锁读的时候,用的是这个语句,

select * from t where id=1 lock in share mode

​ 由于 id 上有索引,所以可以直接定位到 id=1 这一行,因此读锁也是只加在了这一行上。但如果是下面的 SQL 语句,

begin;
select * from t where c=5 for update;
commit;

​ 这个语句序列是怎么加锁的呢?加的锁又是什么时候释放呢?

答案

​ RC隔离级别下,对非索引字段更新,有个锁全表记录的过程,不符合条件的会及时释放行锁,不必等事务结束时释放;而直接用索引列更新,只会锁索引查找值和行。update产生的X锁在不释放的情况下,DELETE语句无法执行,但是UPDATE语句能更新不符合之前X锁的记录。 RR隔离级别下,为保证binlog记录顺序,非索引更新会锁住全表记录,且事务结束前不会对不符合条件记录有逐步释放的过程。DELETE和UPDATE语句都不能执行

标签:语句,第十八,lock,flush,只查,执行,id,select
From: https://www.cnblogs.com/guixiangyyds/p/18411170

相关文章

  • SQL语句
    SQL语句1、DDL(数据定义语言)1、创建,删除数据库--1、创建数据库createdatabaseshujia;--指定编码创建createdatabaseshujiaDEFAULTcharsetutf8;--2、获取数据库列表showdatabases;--3、查看数据库语句showcreatedatabaseshujia;--4、删除数据库......
  • 第十七讲 为什么这些SQL语句逻辑相同,性能却差异巨大?
    第十七讲:为什么这些SQL语句逻辑相同,性能却差异巨大?简概:引入:​ 在MySQL中,有很多看上去逻辑相同,但性能却差异巨大的SQL语句。对这些语句使用不当的话,就会不经意间导致整个数据库的压力变大。我今天挑选了三个这样的案例和你分享。希望再遇到相似的问题时,你可以做到举一反......
  • 小白学懂C语言---分支循环语句(下)
    循环语句这章我们来谈谈三种循环语句(for循环,while循环,do-while循环)1.for循环for循环应该是平时用的比较多的一种,也是一种容易理解的循环。for循环语法:for(表达式1;表达式2;表达式3){ 语句}强调一下:1.表达式1表达式2表达式3,两两之间用;隔开,记住不要写成逗......
  • 浅谈 C# 中的顶级语句
    前言在C#9版本中引入了一项新特性:顶级语句,这一特性允许在不显式定义Main方法的情况下直接编写代码。传统的写法namespaceTestStatements{internalclassProgram{staticvoidMain(string[]args){foreach(vararginargs)......
  • 浅谈 C# 中的顶级语句
    前言在C#9版本中引入了一项新特性:顶级语句,这一特性允许在不显式定义Main方法的情况下直接编写代码。传统的写法namespace TestStatements{    internal class Program    {        static void Main(string[] args)        {       ......
  • switch语句
    除了if语句外,C语言还提供switch语句来实现分支结构switch语句是一种特殊形式的if…else结构,用于判断条件有多个结果的情况。它把多重的elseif改成更易用的、可读性更好的形式。语法形式如下:#include<stdio.h>intmain(){switch(expression){casevalue1:statementc......
  • Java中的Switch语句:从基本类型到String和枚举的进化
    Java中的Switch语句:从基本类型到String和枚举的进化在Java编程中,switch语句是一个强大且常用的控制结构,用于根据变量的值执行不同的代码块。从最初的只支持基本数据类型,到后来的支持String和枚举类型,switch语句的功能不断扩展,使其更加灵活和强大。今天,我们就来深入探讨Java......
  • IF语句 | WITH子句 | 自定义函数
    IF语句IF(expr1,expr2,expr3)expr1的值为TRUE,则返回值为expr2expr1的值为FALSE,则返回值为expr3SELECTIF(TRUE,1+1,1+2);->2SELECTIF(FALSE,1+1,1+2);->3WITH子句WITH子句主要用来创建一个暂时的结果集,这个结果集在后续的查询中可以多次使用WITHta......
  • 【Java 分支语句详解 之 If 】
    Java分支语句详解之If-else在编程过程中,我们经常需要根据不同的条件执行不同的代码块,这种流程控制被称为分支语句。在Java中,常见的分支控制结构有if-else和switch。本文将详细介绍if分支结构的使用方法以及相关的代码示例。一、单分支控制语句(if)基本语......
  • MySQL的SQL语句
    一、SQL1、概念 SQL:StructureQueryLanguage(结构化查询语言),SQL最早是被美国国家标准局(ANSI)确定为关系型数据库语言的美国标准。后来被国际化标准组织(ISO)采纳为关系型数据库语言的国际标准。​2、分类​1)DDL(DataDefinitionLanguage):数据定义语言,用来定义数据库对象......