首页 > 数据库 >查询效率提升10倍!3种优化方案,帮你解决MySQL深分页问题

查询效率提升10倍!3种优化方案,帮你解决MySQL深分页问题

时间:2022-10-17 15:55:06浏览次数:75  
标签:10 分页 create 查询 user MySQL id select

开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。

有没有什么办法,能解决深分页的问题呢?

本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。

1. 准备数据

先创建一张用户表,只在create_time字段上加索引:

CREATE TABLE `user` (
  `id` int NOT NULL AUTO_INCREMENT COMMENT '主键',
  `name` varchar(255) DEFAULT NULL COMMENT '姓名',
  `create_time` timestamp NULL DEFAULT NULL COMMENT '创建时间',
  PRIMARY KEY (`id`),
  KEY `idx_create_time` (`create_time`)
) ENGINE=InnoDB COMMENT='用户表';

然后往用户表中插入100万条测试数据,这里可以使用存储过程:

drop PROCEDURE IF EXISTS insertData;
DELIMITER $$
create procedure insertData()
begin
 declare i int default 1;
   while i <= 100000 do
         INSERT into user (name,create_time) VALUES (CONCAT("name",i), now());
         set i = i + 1; 
   end while; 
end $$

call insertData() $$

2. 验证深分页问题

每页10条,当我们查询第一页的时候,速度很快:

select * from user 
where create_time>'2022-07-03' 
limit 0,10;

在不到0.01秒内直接返回了,所以没显示出执行时间。

当我们翻到第10000页的时候,查询效率急剧下降:

select * from user 
where create_time>'2022-07-03' 
limit 100000,10;

执行时间变成了0.16秒,性能至少下降了几十倍。

耗时主要花在哪里了?

  1. 需要扫描前10条数据,数据量较大,比较耗时
  2. create_time是非聚簇索引,需要先查询出主键ID,再回表查询,通过主键ID查询出所有字段

画一下回表查询流程:

1. 先通过create_time查询出主键ID

2. 再通过主键ID查询出表中所有字段

别问为什么B+树的结构是这样的?问就是规定。

可以看一下前两篇文章。

MySQL索引底层实现为什么要用B+树?

一篇文章讲清楚MySQL的聚簇/联合/覆盖索引、回表、索引下推

然后我们就针对这两个耗时原因进行优化。

3. 优化查询

3.1 使用子查询

先用子查询查出符合条件的主键,再用主键ID做条件查出所有字段。

select * from user 
where id in (
  select id from user 
  where create_time>'2022-07-03' 
  limit 100000,10
);

不过这样查询会报错,说是子查询中不支持使用limit。

我们加一层子查询嵌套,就可以了:

select * from user 
where id in (
 select id from (
    select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
 ) as t
);

执行时间缩短到0.05秒,减少了0.12秒,相当于查询性能提升了3倍。

为什么先用子查询查出符合条件的主键ID,就能缩短查询时间呢?

我们用explain查看一下执行计划就明白了:

explain select * from user 
where id in (
 select id from (
    select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
 ) as t
);

可以看到Extra列显示子查询中用到Using index,表示用到了覆盖索引,所以子查询无需回表查询,加快了查询效率。

3.2 使用inner join关联查询

把子查询的结果当成一张临时表,然后和原表进行关联查询。

select * from user 
inner join (
   select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
) as t on user.id=t.id;

查询性能跟使用子查询一样。

3.3 使用分页游标(推荐)

实现方式就是:当我们查询第二页的时候,把第一页的查询结果放到第二页的查询条件中。

例如:首先查询第一页

select * from user 
where create_time>'2022-07-03' 
limit 10;

然后查询第二页,把第一页的查询结果放到第二页查询条件中:

select * from user 
where create_time>'2022-07-03' and id>10 
limit 10;

这样相当于每次都是查询第一页,也就不存在深分页的问题了,推荐使用。

执行耗时是0秒,查询性能直接提升了几十倍。

这样的查询方式虽然好用,但是又带来一个问题,就是无法跳转到指定页数,只能一页页向下翻。

所以这种查询只适合特定场景,比如资讯类APP的首页。

互联网APP一般采用瀑布流的形式,比如百度首页、头条首页,都是一直向下滑动翻页,并没有跳转到制定页数的需求。

不信的话,可以看一下,这是头条的瀑布流:

传参中带了上一页的查询结果。

响应数据中,返回了下一页查询条件。

所以这种查询方式的应用场景还是挺广的,赶快用起来吧。

知识点总结:

 

 

作者:一灯架构

来源:https://www.cnblogs.com/yidengjiagou/p/16441278.html

 

标签:10,分页,create,查询,user,MySQL,id,select
From: https://www.cnblogs.com/zhusf/p/16799486.html

相关文章

  • 【2022-10-09】连岳摘抄
    23:59如果一个社会,每个人给予社会的略多于他从社会拿走的,那么这个社会就会兴旺起来。                          ......
  • [转]MySQL索引原理及慢查询优化
    原文地址:MySQL索引原理及慢查询优化-美团技术团队(meituan.com)背景MySQL凭借着出色的性能、低廉的成本、丰富的资源,已经成为绝大多数互联网公司的首选关系型数据库......
  • 一次磁盘占用率 100% 的排查记录
    一次磁盘占用率100%的排查记录你好,我是悟空。最近遇到一个服务器的问题:磁盘满了,占用率100%~这个问题太常见了,于是先来排查一波是哪些文件占用了大量磁盘。一、排查磁......
  • mysql大数据量分页查询靠后页数的语句写法
    假设测试表 table_test一共有一百万条数据,如果使用普通limit分页,当limitoffset偏移量很大时,如900000时,速度会很慢,因为limit等于要先查出前900020条数据,然后抛弃......
  • E10——凭证报表序号按流水自然排序
            introwIndex;privatevoidGroupHeader1_AfterPrint(objectsender,System.EventArgse){rowIndex=0;}privatevoidtableCell1_......
  • MySQL入门介绍
    介绍MySQL有很多内容,我计划才有系列的方式来介绍。 命令您可以搜索“mysql常用命令”查看更加详细的内容。函数您可以搜索“mysql常用函数”查看更加详细的内容。​......
  • 自选股 2022年10月17日
    1.002559亚威股份2.603011合锻智能3.300260新莱应材4.002371北方华创5.603100川仪股份6.002737葵花药业7.002489浙江永强8.300789唐源电气9.603969银龙股份10.002......
  • winioctl.h(10326): [C4668] 没有将“_WIN32_WINNT_WIN10_TH2”定义为预处理器宏,用
    一般为Windows中的宏和UE4冲突所致在模块的xxx.Build.cs里面添加这个:bEnableUndefinedIdentifierWarnings=false;转自:https://blog.csdn.net/boonti/article/detail......
  • Mysql
    查看Mysql版本号1、启动mysql服务2、在mysql的bin目录下启动cmd3、在mysql的bin目录下启动cmd>mysql>bin>mysql-v......
  • 【MySQL练习】排序与分页练习
    1.查询员工的姓名和部门号和年薪,按年薪降序,按姓名升序显示SELECTlast_name,department_id,salary*12ASAnnualSalaryFROMemployeesORDERBYAnnualSalaryDESC,las......