首页 > 数据库 >MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!

时间:2022-12-15 13:33:50浏览次数:73  
标签:BufferPool 缓存 buffer 必知 十一张 Buffer innodb pool Pool

一、收到了大佬们的建议

1、篇幅偏短,建议稍微加长一点。

这点说的确实挺对,有的篇幅确实比较短,针对这个提议我会考虑将相似的话题放在一篇文章中。但是这可能会导致我中断每天更新的步调,换成隔几天发一篇的步调(但是这个系列的文章一定会写完的!)

2、Buffer Pool、LRU List、Flush List、Free List相辅相成,建议放在一起串讲。

说的没错,是应该一起串讲。于是有了这篇加餐的文章:下面让我们就一起看下,当你执行CURD时,InnoDB的Buffer Pool中都发生了什么!以及Buffer Pool的优化!


二、Let‘s go

你知道的,MySQL对数据的增删改查都是内存中完成的,这块内存就是Buffer Pool。

你可以像下面这样查看下你的MySQL的Buffer的Buffer Pool的默认大小

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_MySQL

上图中的0.125单位为GB,转换成MB就是 1024* 1/8 = 128MB

总结来说,就是MySQL启动后就会为我们初始化好这块Buffer Pool。如下图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_mysql_02

你可以看着上图,然后读下面这段话:

MySQL以数据页为单位,从磁盘中读取数据。数据页被读取到内存中,所谓的内存其实就是Buffer Pool。

Buffer Pool中维护的数据结构是缓存页,而且每个缓存页都有它对应的描述信息。

由于MySQL刚启动,还没有从磁盘中读取任何数据页到内存(Buffer Pool)中,那此时Buffer Pool中所有的缓存页其实都是空的。

除了缓存页之外,你还能看到Buffer Pool中存在三个双向链表。分别是FreeList、LRUList以及FlushList。这三个双向链表中维护着缓存页的描述信息。


三、好,假设你读取出来了1个数据页

当你通过select读取出一个数据页之后,是需要将这个数据页加载进Buffer Pool中的缓存页中的。

那问题来了,MySQL怎么知道该将你读取出来的数据页存放在那个缓存页中呢?相信你看了上图应该也能想到答案了。FreeList这个双向链表不是存放了空闲的缓存页的描述信息吗?那从FreeList中取出一个空间缓存页的描述信息不就好了?于是得到了下面这张图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_缓存_03

啰嗦一点:对这张图稍微做一下解读:

InnoDB会将你读取出来的数据页加载进Buffer Pool中的缓存页中,然后缓存页的描述信息也会被维护进LRU链表中。链表做了冷热数据分离优化,5/8的区域是热数据区域,3/8的区域算是冷数据区域。(本质上它们都是双向链表),而你新读取的数据页会被放在冷数据区的靠前的位置上。

如果你将该数据页读取出来加载进缓存页中后,间隔没到1s,就使用该缓存页。那么InnoDB是不会将这个描述信息移动到5/8的热数据区域的。

但是当超过1s后,你又去读这个数据页。那这个数据页的描述信息就会被放到热数据区域。如下图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_缓存_04


四、假设你一次性读取出来了好多数据页

白日梦在第 6 篇文章中跟大家分享过,MySQL是存在预读机制的,感兴趣可关注公众号阅读。

假设触发了MySQL的预读机制。一次性从磁盘中读取来N多个缓存页。会得到下面这张图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_mysql_05

因为发生了预读,所以你的一次磁盘IO读出了大量的数据页,但是这些数据页中很可能是有一些是你根本不需要的,仅仅是预读把它们级联查出来了。这时按老规矩,从FreeList中找到空闲的缓存页信息,然后将其从FreeList中移除。根据找到的空闲缓存页的描述信息,将从磁盘中读取出来的数据页加载进去。相应的该缓存页的描述信息也会被维护进LRU链表的冷数据区域。

这时你就会发现这种冷热数据分离的机制多么妙!即使发生了预读又怎么样?根本没有机会将热数据区的描述信息1挤下去。当内存不够用了需要将部分缓存页刷新到磁盘中时,那就从冷数据区域开始刷新好了,反正他们本来就不经常被使用。

同样的,当你超过1s后又访问了冷数据区的缓存页,比如访问了缓存页66和数据页67,该缓存页对应的描述信息是会被提升到热数据区,于是有了下面这张图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_MySQL_06

那,如果你访问上图中的数据页67,它会移动到描述信息66所在节点的前面去吗?

其实MySQL的LRU链表做了优化,数据67是不会往前跑的。


五、假设你修改了某数据页

假设你执行了update xxx set xxx where id in (xxx,xxx,xxx,xxx);

而符合条件的数据行恰巧就在描述信息1、描述信息66、描述信息67所指向的缓存页中,那BufferPool中会发生什么呢?

如下图:

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_缓存_07

你会看到,被你修改了的缓存页的描述信息,被添加到了FlushList这个双向链表中。

想必看到这里你已经知道了,原来FlushList中的节点存放就是被修改了脏数据页的描述信息块。

随着MySQL被使用的时间越来越长,BufferPool的大小就越来越小。等它不够用的时候,就会将部分LRU中的数据页描述信息移除出去,这时如果发现被移除出来的数据页在FLushList中,就会触发fsync的操作,触发随机写磁盘。如果该数据页是干净的,那移除出去就好了。其他也不用干啥。

举个例子:假设需要将描述信息66、描述信息67指向的缓存页落盘。会得到下面这张脑图:

描述信息66、67指向的缓存页被刷新进磁盘。 同时从FlushList中将其移除,然后存入FreeList中。完成一个循环

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_缓存_08

当然,将脏数据页刷新进磁盘的时机除了上图中说的还有好多种情况,白日梦在上一篇文章中有分享。可关注公众号查看哦



下面再看一下关于Buffer Pool的设置和相关的优化。

六、配置Buffer Pool的大小

buffer pool越大,MySQL的性能就越强悍。你可以像下面这样配置Buffer Pool的大小。

mysql> SET GLOBAL innodb_buffer_pool_size=402653184;


七、配置多个Buffer Pool的实例

你可以为MySQL实例配置多个Buffer Pool,每个Buffer Pool各自负责管理一部分缓存页,并且有自己独立的LRU、Free、Flush链表。

当有多线程并发请求过来时,线程可以在不同的Buffer Pool中执行自己的操作,MySQL性能就会得到很大的提升

在my.d中进行配置

[server]
innodb_buffer_pool_size = xxx
innodb_buffer_pool_instances = 4

意思是将总容量为xxx的buffer pool划分成4个实例。每个实例都有 xxx/4 的容量。

参数​​innodb_buffer_pool_instances​​​的最大值为64,并且想让该参数生效,​​innodb_buffer_pool_size​​容量至少是1G。

可以像下面这样查看你的MySQL的Buffer Pool实例状态。

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_mysql_09


八、揭秘BufferPool的真实结构

现实中Buffer Pool动辄就占用好几G的内存,相对于直接申请几G的内存完成扩容,MySQL有更优雅的实现方式。

为了实现动态调整Buffer Pool的大小。MySQL设计了chunk 机制。

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_MySQL_10

可以看上图脑补一下Buffer Pool 以及 Chunk长什么样。

总的来说:就是将每一个 Buffer Pool Instance 更加细力度化。将Buffer Pool拆分成更小的独立单元。

每个Buffer Pool划分成多个chunnk,每个chunk中维护一部分缓存页、缓存页的描述信息。同属于一个Buffer Pool的chunk共享该Buffer Pool的lru、free、flush链表。

块大小由参数​​innodb_buffer_pool_chunk_size​​控制,默认值为 128M

该参数可以像下面这样修改:

shell> mysqld --innodb-buffer-pool-chunk-size=134217728

或者通过配置文件自定义

[mysqld]
innodb_buffer_pool_chunk_size=134217728


九、看一看Buffer Pool相关的参数

执行命令

> mysql show engine innodb status

MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_mysql_11

十、如何规划你的Buffer Pool大小

推荐将Buffer Pool的总大小设置为服务器内存的 50%~60%左右

BufferPool总大小 = (chunkSize * bufferPoolInstanceNum)*2


十一、Buffer Pool的预热机制

这种机制实际上是想让重启后的MySQL快速适应大规模的流量请求。

InnoDB 在服务器关闭时为每个缓冲池保存一部分最近高频使用的页面,并在服务器启动时恢复这些页面。保存多大比例的缓存页由参数​​innodb_buffer_pool_dump_pct​​控制。

在启动时还原缓冲池,实际上会缩短预热的时间。

你可以通过下面的方式配置该参数

# 通过命令
SET GLOBAL innodb_buffer_pool_dump_pct=40;

# 通过文件
[mysqld]
innodb_buffer_pool_dump_pct=40

参数​​innodb_buffer_pool_dump_at_shutdown​​控制 MySQL关闭时保存缓冲池的状态,默认为on的状态。

启动参数​​--innodb-buffer-pool-load-at-startup​​ 表示启动MySQL的时候恢复缓冲池中的状态,默认也是开启的。


关注微信公号


MySQL必知必会:用十一张图讲清楚,当你CRUD时BufferPool中发生了什么!以及BufferPool的优化!_mysql_12


参考:

​https://dev.mysql.com/doc/refman/5.7/en/innodb-buffer-pool-resize.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-preload-buffer-pool.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-preload-buffer-pool.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-buffer-pool-resize.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-buffer-pool.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-performance-midpoint_insertion.html​

​https://dev.mysql.com/doc/refman/5.7/en/innodb-performance-read_ahead.html​

​https://dev.mysql.com/doc/refman/8.0/en/innodb-buffer-pool.html​

​https://lalitvc.wordpress.com/2016/11/03/mysql-architecture-and-components/​


标签:BufferPool,缓存,buffer,必知,十一张,Buffer,innodb,pool,Pool
From: https://blog.51cto.com/u_15311508/5939337

相关文章

  • 项目经理和PMO必知的20个能力知识地图
    ......
  • MySQL事务必知必会
    事务必知必会事务由一组数据操纵语句(DML)组成,这组语句要么全部成功,要么全部失败事务操作开启事务starttransaction;设置保存点savepoint保存点名;回退到某个保存......
  • XMLHttpRequest—必知必会
    前言做web开发,我们都知道浏览器通过XMLHttpRequest对象进行http通信在实际开发中我们使用的是各种框架封装了的XMLHttpRequest对象,对具体实现往往一知半解.所以为了换......
  • 《MySQL必知必会》之事务、用户权限、数据库维护和性能
    第二十六章管理事务处理本章介绍什么是事务处理以及如何利用COMMIT和ROLLBACK语句来管理事务处理事务处理并非所有数据库引擎都支持事务处理常用的InnoDB支持事务处......
  • 《MySQL必知必会》之快速入门游标和触发器
    第二十四章使用游标本章将介绍什么是游标以及如何使用游标游标之前的select语句检索出来的数据,没有办法得到第一行或者下一行有时,需要在检索出来的行中前进或后退一行......
  • Web应用开发必知的HTML 5编码实践方法
    本人作品,转载请注明出处HTML5现在的发展相当迅速,越来越多的浏览器开始支持HTML5的新特性,也涌现出越来越多的基于HTML5的App应用,毫无疑问,作为web开发者,必须了解和懂得HTML......
  • 《MySQL必知必会》之快速入门存储过程
    使用存储过程本章介绍什么是存储过程,为什么使用、如何使用,并介绍如何创建和使用存储过程的基本语法存储过程在实际应用中,往往需要执行多个表的多条sql语句存储过程就......
  • 《MySQL必知必会》知识汇总四
    十七、插入数据本章将介绍如何利用sql的INSERT语句将数据插入表中数据插入插入分为以下几种方式:插入完整的行、插入行的一部分、插入多行、插入某些查询结果插入完......
  • 《MySQL必知必会》知识汇总三
    十三、联结表本章将介绍什么是联结,为什么使用联结,如何编写使用联结的select语句联结简单来说,联结是一种机制,用来在一条select语句中关联表,因此称为联结。使用特殊的语......
  • 《MySQL必知必会》知识汇总一
    一、使用MYSQL展示所有数据库showdatabases;选择数据库usecrashcourse;展示该数据库中所有的表showtables;还可以展示表列的shema约束showcolumns......