首页 > 数据库 >SQL 查询优化之 WHERE 和 LIMIT 使用索引详解

SQL 查询优化之 WHERE 和 LIMIT 使用索引详解

时间:2024-03-18 10:34:01浏览次数:17  
标签:idx sql 索引 LIMIT SQL acct 排序 WHERE id

奇怪的慢sql

我们先来看2条sql

第一条:

第二条:

表的索引及数据总情况: 索引:acct_id,create_time 分别是单列索引,数据库总数据为500w。

通过 acct_id 过滤出来的结果集在 1w 条左右。 查询结果:第一条要5.018s,第二条0.016s

为什么会是这样的结果呢?第一,acct_id和create_time都有索引,不应该出现5s查询时间这么慢啊 那么先来看执行计划

第一条sql执行计划:


 第二条执行计划:


仔细观察会发现,索引只使用了idx_create_time,没有用到idx_acct_id。

这能解释第一条sql很慢,因为where查询未用到索引,那么第二条为什么这么快?看起来匪夷所思,其实搞清楚mysql查询的原理之后,其实很简单。 我们来看这2条sql查询,都用到了where order by limit。

当有limit存在时,查询的顺序就有可能发生变化,这时并不是从数据库中先通过where过滤再排序再limit。

因为如果这样的话,从500万数据中通过where过滤就不会是5s了。 此时的执行顺序是,先根据idx_create_time索引树,从最右侧叶子节点,反序取出n条,然后逐条去跟where条件匹配。

若匹配上,则得出一条数据,直至取满10条为止,为什么第二条sql要快,因为运气好,刚好时间倒序的前几条就全部满足了。 搞清楚原理之后,我们了解了为什么第一条慢,第二条快的原因,但是问题又来了为什么mysql不用idx_acct_id索引,这是一个问题,因为这样的话,我们的建立的索引基本失效了,在此类sql下查询效率将会是相当低。 因为通过acct_id过滤出来的结果集比较大,有上万条,mysql认为按时间排序如果不用索引,将会是filesort,这样会很慢,而又不能2个索引都用上,所以选择了idx_create_time。 

为什么mysql只用一个索引

这里为什么不能2个索引都用上,可能很多人也不知道为什么,其实道理很简单,每个索引在数据库中都是一个索引树,其数据节点存储了指向实际数据的指针,如果用一个索引来查询,其原理就是从索引树上去检索,并获得这些指针,然后去取出数据。

试想,如果你通过一个索引,得到过滤后的指针,这时,你的另一个条件索引如果再过滤一遍,将得到2组指针的集合,如果这时候取交集,未必就很快,因为如果每个集合都很大的话,取交集的时候,等于扫描2个集合,效率会很低,所以没法用2个索引。

当然有时候mysql会考虑临时建立一个联合索引,将2个索引联合起来用,但是并不是每种情况都能奏效,同样的道理,用一个索引检索出结果集之后,排序时,也无法用上另一个索引了。 实际上用索引idx_acct_id大多数情况还是要比用索引idx_create_time要快,我们举个例子:

耗时:0.057s

可以看出改情况用idx_acct_id索引是比较快的,那么是不是这样就可以了呢,排序未用上索引,始终是有隐患的。 

联合索引让where和排序字段同时用上索引

我们来看下一条sql:

耗时: 1.999s

执行计划:


该sql通过acct_id过滤出来的结果集有100万条,因此排序将会耗时较高,所幸这里只是取出前10条最大的然后排序
查询概况,我们发现时间基本消耗在排序上,其实这是内存排序,对内存消耗是很高的。 


那么我们有没有其它解决方案呢,这种sql是我们最常见的,如果处理不好,在大数据量的情况下,耗时以及对数据库资源的消耗都很高,这是我们所不能接受的,我们的唯一解决方案就是让where条件和排序字段都用上索引 解决办法就是建立联合索引:

然后执行sql:

 

 

耗时: 0.016s

联合索引让where条件字段和排序字段都用上了索引,问题解决了!

联合索引使用的原理

但是为什么能解决这个问题呢,这时大家可能就会记住一个死理,就是联合索引可以解决where过滤和排序的问题,也不去了解其原理,这样是不对的,因为当情况发生变化,就懵逼了,

下面我们再看一个sql:

耗时:1.391s

索引还是用idx_acct_id_create_time,时间居然慢下来了。

执行计划是: 


看执行计划,排序用到了filesort,也就是说,排序未用到索引。 那么我们还是来看看,索引排序的原理,我们先来看一个sql:

耗时:0.029s

执行计划为:


这里执行的步骤是,先从索引树中,按时间升序取出前100条,因为索引是排好序的,直接左序遍历即可了,因此,这里mysql并没有做排序动作,如果想降序,则右序遍历索引树,取出100条即可,查询固然快,那么联合索引的时候,是怎样的呢?

使用组合索引:idx_acct_id_create_time。这个时候,因为acct_id是联合索引的前缀,因此可以很快实行检索,如果sql是

出来的数据是按如下逻辑排序的3095+time13095+time23095+time3默认是升序的,也就是说,次sql相当于

他们是等效的。

如果我们把条件换成order by create_time desc limit 0,10呢?

这时候,应该从idx_acct_id_create_time树右边叶子节点倒序遍历,取出前10条即可

因为数据的前缀都是3095,后缀是时间升序。那么我们倒序遍历出的数据,刚好满足 order by create_time desc。因此也无需排序。 那么语句:

为什么排序无法用索引呢?

我们先分析下索引的排序规则,已知:id1<id2<id3…  time1<time2<time3….

查询结果集排序如下:

索引出来的默认排序是这样的,id是有序的,时间是无序的,因为有2个id,优先按id排序,时间就是乱的了,这样排序将会用filesort,这就是慢的原因,也是排序没有用到索引的原因。

查询计划使用以及使用说明

table:显示这一行数据是关于哪张表的
type:显示使用了何种类型,从最好到最差的连接类型为const,eq_ref,ref,range,index,all
possible_keys:显示可能应用在这张表中的索引。如果为空,没有可能的索引
key:实际使用的索引,如果为null,则没有使用索引。
key_len:使用的索引的长度。在不损失精确性的情况下,长度越短越好
ref:显示索引的哪一列被使用了,如果可能的话,是一个常数
rows:mysql认为必须检查的用来返回请求数据的行数

标签:idx,sql,索引,LIMIT,SQL,acct,排序,WHERE,id
From: https://www.cnblogs.com/shujuyr/p/18079820

相关文章

  • Redis作为缓存,MySQL数据库如何与Redis保持一致性(双写一致性)?
    Redis作为缓存,MySQL数据库如何与Redis保持一致性(双写一致性)?双写一致性:​ 修改了数据库中的数据的同时,也要更新缓存的数据,保证数据库和缓存中的数据保持一致。请求数据的执行流程:​ 请求去访问Redis,如果Redis缓存中有数据则返回数据,如果Redis缓存中没有数据则去查数据库,数......
  • .NET集成DeveloperSharp操作Sql Server数据库
    支持.Net/.NetCore/.NetFramework,可以部署在Docker,Windows,Linux,Mac。本文提供了一种结合“原生Sql+轻量级ORM”操作各类数据库的工具。该工具几乎只使用了一个方法/函数,却实现了几乎所有的数据操作功能。它已成功应用到了人工智能、产业互联网、智慧医疗、等多个大型项......
  • FireDAC中官方SQL语句增insert,查Select,删delete,改update语句写法(20)
    procedureTfrmGettingStarted.btnInsertClick(Sender:TObject);variID:Integer;beginifnotFDconnection1.ConnectedthenExit;//Insertarecord增FDconnection1.ExecSQL('insertintoCategories(CategoryName,Description,Picture)'......
  • 捉虫日记 | MySQL 8.0从库某些情况下记录重放的CREATE TABLE、DROP TABLE语句到慢日志
    作者:卢文双资深数据库内核研发本文首发于2023-11-3020:47:35https://dbkernel.com问题描述当主从复制采用binlog的行模式时,如果从库启用slow_query_log、log_slow_replica_statements且从库重放CREATETABLE、DROPTABLE时因特殊情况(比如被从库其他SQL占用MDL......
  • Red Hat Enterprise Linux 7 / Oracle Linux 7 安装 MySQL
    如果你的系统只支持RedHatEnterpriseLinux7/OracleLinux7,并且你已经下载了`mysql80-community-release-el7-11.noarch.rpm`包,那么你可以按照以下步骤来安装MySQL:1.首先,使用`rpm`命令来安装`mysql80-community-release-el7-11.noarch.rpm`包:```bashsudorp......
  • Linux安装jdk和mysql
    Linux安装jdk和mysqlJDK安装操作步骤:使用FinalShell自带的上传工具将jdk的二进制发布包上传到Linux空jdk-8u171-inux-x64.tar.gz(这里注意自己的路径即可)解压安装包,命令为tar-zxvfjdk-8u171-linux-x64.tar.gz-C/usr/local配置环境变量,使用vim命令修改/etc/profile文件,在文件......
  • SqlServer2008(R2)(一)SqlServer2008(R2)经典宝藏操作收集整理
    一、常见操作1、TRUNCATETABLE语句删除表数据TRUNCATETABLE语句比DELET删除表中的所有行更快。从逻辑上讲,TRUNCATETABLE它类似于DELETE没有WHERE子句的语句。TRUNCATETABLE语句从表中删除所有行,但表结构及其列,约束,索引等保持不变。要删除表及其数据,可以使用该DROP......
  • 诚意满满之MySQL实现事务隔离的秘诀:锁与MVCC
    如果对事务没有太多理解,可以看前面三篇:诚意满满之讲透事务诚意满满之讲透事务隔离级别诚意满满之MySQL如何实现原子性、持久性不看前三篇也没有关系,知识点是独立的。MySQL的四个事务隔离级别:读未提交、读已提交、可重复读、串行读。其中,读未提交即是不加任何限制,串行读则......
  • mysql 获取临时密码
    安装MySQL服务器后,你需要进行初始化设置。以下是一些基本步骤:1.**启动MySQL服务器**```bashsudosystemctlstartmysqld```2.**获取临时密码**在首次启动MySQL服务器时,系统会为root用户生成一个临时密码。你可以通过查看MySQL日志来获取这个临时密码:```bashsudo......
  • mysql数据库的安装(图文详解)
    如果之前电脑有装过mysql数据库,一定要卸载干净,再重新安装!!!卸载教程点击下面这个链接https://www.cnblogs.com/wbxh/articles/180792221、下载mysql的安装包下载地址https://dev.mysql.com/downloads/installer/2、开始mysql的安装(这里以5.7为例)3、安装完成......