首页 > 数据库 >深入InnoDB核心:揭秘B+树在数据库索引中的高效应用

深入InnoDB核心:揭秘B+树在数据库索引中的高效应用

时间:2024-08-15 17:52:10浏览次数:24  
标签:存储 记录 揭秘 索引 查找 InnoDB 键值 目录

目录

一、索引页与数据行的紧密关联

(一)数据页的双向链表结构

(二)记录行的单向链表结构

二、未创建索引情况

(一)无索引下的单页查找过程

以主键为搜索条件

以非主键列为搜索条件

(二)无索引下的多页查找过程

三、InnoDB中的B+ 树索引方案初体会

(一)前置说明

行格式示意图

页内格式示意图

(二)目录项记录与用户记录的区别及其存储

目录项放到数据页

查找主键为20的记录

(三)分配新目录项记录页

更新后的数据页结构

查找主键值为20的记录的步骤

确定目录项记录页

通过目录项记录页确定用户记录所在的页

在用户记录页中定位具体记录

(四)多级目录项记录页的介绍

高级目录页说明

高级目录页(页33)

页30(目录项记录页)

页32(目录项记录页)

查找主键值为20的记录的步骤(更新后的过程)

四、InnoDB中的B+ 树索引方案确立

(一)B+树的数据页结构

(二)B+树的层次结构

(三)B+树的查找效率

五、总结

 参考文献、书籍及链接


干货分享,感谢您的阅读!

在现代数据库系统中,如何高效地管理和查找海量数据是一个至关重要的问题。InnoDB作为MySQL的存储引擎,通过引入B+树这种数据结构,解决了这一挑战。B+树不仅在索引性能方面表现优异,还在数据存储和检索上提供了极高的效率。我们探讨下B+树在InnoDB中的实现和应用,更好地理解其工作原理和优势。

一、索引页与数据行的紧密关联

解读InnoDB数据库索引页与数据行的紧密关联-CSDN博客中我们已经强调过:在 InnoDB 中,数据页通过双向链表连接,每个数据页内的记录行按照主键值从小到大的顺序组成单向链表,并且每个数据页都有一个页目录用于快速定位记录。

查找记录时,先在页目录中使用二分法定位到特定槽,再在该槽对应的记录组中顺序遍历找到目标记录。通过这种设计,InnoDB 能够高效地管理和查找数据,确保数据库系统的高性能和可靠性。

(一)数据页的双向链表结构

每个数据页被组织成一个双向链表,这意味着每个数据页都有指向前一个页和后一个页的指针(File Header 记录了页的基础信息和链表指针)。通过这种双向链表结构,InnoDB 可以方便地进行数据页的插入、删除和遍历操作。这种设计保证了数据页之间的高效连接和管理。

(二)记录行的单向链表结构

 具体可见:数据库记录行在页内查询探索分析_检查代码中循环依赖-CSDN博客

在每个数据页中,记录行按照主键值从小到大的顺序组织成一个单向链表。这种有序的结构使得在数据页内查找记录变得更加高效。每条记录不仅存储了自身的数据,还包含指向下一条记录的指针,这样可以顺序遍历记录。

每个数据页都有一个页目录,页目录可以看作是数据页内的索引结构。页目录将记录分成多个组,每个组在页目录中都有一个槽。通过页目录,InnoDB 可以快速定位到特定记录所在的组,从而减少遍历记录的时间。

当需要通过主键查找某条记录时,InnoDB 会先在页目录中使用二分法快速定位到对应的槽。页目录中的槽指向该槽对应的记录组,接着在该组中遍历记录,直到找到目标记录。这种查找过程结合了二分查找和顺序遍历的优点,既高效又精确。

二、未创建索引情况

在数据库中,当没有针对特定列建立索引时,查询过程通常会面临效率低下的问题。特别是对于非主键列的精确匹配查询,数据库引擎无法利用索引结构,从而导致需要全表扫描来寻找符合条件的记录。

(一)无索引下的单页查找过程

在数据库中,当所有记录都能够存放在一个数据页中时,查找记录的过程可以根据查询条件的不同分为以下两种情况:

以主键为搜索条件

对于主键列的精确匹配查询:

  1. 页目录查找:数据页通常会维护一个页目录,用于存储每条记录的偏移位置。由于页目录是按照主键排序的,因此可以使用二分查找法快速定位到对应的记录槽。
  2. 记录遍历:找到对应槽后,只需遍历该槽中的记录,即可快速找到符合条件的记录。

这种方法由于利用了页目录的有序性,因此查找效率较高。这部分其实就是我们上文中讲到的理想情况,但在开发过程中我们不可能每次都是直接查主键id的情况。

以非主键列为搜索条件

对于非主键列的精确匹配查询:

  1. 全页扫描:由于非主键列没有对应的页目录,也没有任何排序信息,无法使用二分查找等高效查找算法。此时,数据库需要从数据页的最小记录开始,逐条遍历每条记录。
  2. 逐条比较:在遍历过程中,逐条对比记录是否符合搜索条件。如果记录数较多,这种方法的查找效率将会非常低。

显然,对于非主键列的查找,由于缺乏索引的支持,只能进行全页扫描,这在数据量较大时,性能会变得极为低下。

(二)无索引下的多页查找过程

在大部分实际应用中,表中的记录数量非常庞大,往往需要多个数据页来存储这些记录。当在多页中查找记录时,查找过程通常可以分为两个步骤:

  1. 定位到记录所在的页
  2. 从所在的页中查找相应的记录

在没有索引的情况下,无论是根据主键列还是其他列的值进行查找,由于无法快速定位到记录所在的页,只能沿着数据页的双向链表逐页查找。

这意味着:

  1. 遍历页链表:从第一个数据页开始,沿着双向链表依次访问每一个数据页。
  2. 逐页查找:在每个数据页中,使用前面介绍的单页查找方式来查找指定的记录。

由于需要遍历所有数据页并在每个页中逐条比较记录,这种方式的效率非常低。

三、InnoDB中的B+ 树索引方案初体会

(一)前置说明

为了更好地理解 InnoDB 中 B+ 树索引的工作机制,我们从创建一个示例表index_demo开始,并通过详细的示意图展示记录在页中的存储结构及索引的作用。

CREATE TABLE index_demo (
    c1 INT,
    c2 INT,
    c3 CHAR(1),
    PRIMARY KEY (c1)
) ROW_FORMAT = Compact;

这个表中有两个 INT 类型的列 c1c2,一个 CHAR(1) 类型的列 c3,并且 c1 列为主键。表的行格式为 Compact。

行格式示意图

为了更好地展示记录在页中的存储,简化 index_demo 表的行格式示意图:

每条记录由以下部分组成:

(背景:解析MYSQL行头信息数据详细探究InnoDB Compact行格式背后

  1. record_type:记录头信息的一项属性,表示记录的类型:0 表示普通记录;1 表示目录项记录;2 表示最小记录;3 表示最大记录
  2. next_record:记录头信息的一项属性,表示下一条记录地址相对于本记录的地址偏移量。
  3. 各个列的值:记录 index_demo 表中的三个列 c1c2c3 的值。
  4. 其他信息:除了上述三种信息以外的所有信息,包括其他隐藏列的值以及记录的额外信息。

为了节省篇幅,我们省略记录的其他信息部分并将记录竖着展示:

页内格式示意图

把一些记录放到页里边的示意图就是:

(二)目录项记录与用户记录的区别及其存储

在 InnoDB 中,为了灵活管理 B+ 树索引的目录项,设计者们选择了复用存储用户记录的数据页来存储目录项记录。这种设计使得 InnoDB 能够高效地管理和查询数据。我们来详细分析并讲解这一机制。

目录项放到数据页

有效地利用已有的数据结构和存储机制,通过记录头信息中的 record_type 属性,InnoDB 可以轻松区分目录项记录和用户记录。record_type 值为 1 表示目录项记录,值为 0 表示普通用户记录。

目录项记录仅包含主键值和页号,这使得它们非常简洁高效。而普通用户记录则包含用户定义的多个列。

min_rec_mask 属性帮助 InnoDB 快速定位页中主键值最小的目录项记录,优化了索引的管理和查询性能。在存储目录项记录的页中,主键值最小的目录项记录的 min_rec_mask 值为 1,其他记录的 min_rec_mask 值为 0

查找主键为20的记录

现在以查找主键为20的记录为例,根据某个主键值去查找记录的步骤就可以大致拆分成下面两步:

  1. 先到存储目录项记录的页,也就是页30中通过二分法快速定位到对应目录项,因为12 < 20 < 209,所以定位到对应的记录所在的页就是页9

  2. 再到存储用户记录的页9中根据二分法快速定位到主键值为20的用户记录。

(三)分配新目录项记录页

尽管目录项记录只存储主键值和对应的页号,相比于用户记录所需的存储空间要小得多,但由于每个数据页只有16KB的大小,能够存放的目录项记录数量也是有限的。如果表中的数据非常多,以至于单个数据页无法存放所有的目录项记录,那么就需要分配更多的目录项记录页。

假设一个存储目录项记录的页最多只能存放4条目录项记录(请注意这只是个假设,实际情况可以存放更多)。当需要插入新的目录项记录时,比如主键值为320的记录,就会出现需要分配新目录项记录页的情况。

插入一条主键值为320的用户记录后,我们需要新增两个数据页:

  1. 页31:用于存储新的用户记录。
  2. 页32:用于存储新的目录项记录,因为原先存储目录项记录的页30已经满了(假设只能存储4条目录项记录)。

更新后的数据页结构

  • 页30:存储目录项记录,主键值范围为 [1, 320)。
  • 页32:存储目录项记录,主键值范围为 [320, ∞)。

查找主键值为20的记录的步骤

现在因为存储目录项记录的页不止一个,所以如果我们想根据主键值查找一条用户记录,大致需要三个步骤。以查找主键值为20的记录为例:

确定目录项记录页
  • 现在的存储目录项记录的页有两个:页30和页32。
  • 页30存储的目录项的主键值范围是 [1, 320),页32存储的目录项的主键值范围是不小于320。
  • 因此,主键值为20的记录对应的目录项记录在页30中。
通过目录项记录页确定用户记录所在的页

在页30中,通过二分法快速定位到主键值为20的目录项记录,从而确定该用户记录存储在页9中。

在用户记录页中定位具体记录

在页9中,通过二分法快速定位到主键值为20的用户记录。

(四)多级目录项记录页的介绍

在查询步骤的第1步中,我们需要定位存储目录项记录的页。然而,这些页在存储空间中可能不连续排列。如果表中的数据量非常大,会产生许多存储目录项记录的页。那我们怎么根据主键值快速定位一个存储目录项记录的页呢?

为了解决这个问题,我们可以为这些存储目录项记录的页生成一个更高级的目录,形成多级目录结构。大目录中嵌套小目录,小目录中存储实际的数据。现在各个页的示意图如下:

高级目录页说明

高级目录页(页33)

页33存储更高级的目录项记录,用于指向存储目录项记录的页(例如页30和页32)。页33包含两个目录项记录:

  • 目录项记录1:指向页30,范围为[1, 320)
  • 目录项记录2:指向页32,范围为[320, ∞)
页30(目录项记录页)
  • 页30存储具体的目录项记录,指向用户记录页。
  • 目录项记录指向主键值范围在[1, 320)内的用户记录页。
页32(目录项记录页)
  • 页32存储具体的目录项记录,指向用户记录页。
  • 目录项记录指向主键值范围在[320, ∞)内的用户记录页。

查找主键值为20的记录的步骤(更新后的过程)

  • 确定高级目录页:首先,根据主键值在高级目录页(页33)中进行查找。由于主键值20在范围[1, 320)内,所以对应的目录项记录在页30中。
  • 确定具体的目录项记录页:在页30中,通过二分法快速定位到主键值为20的目录项记录,从而确定用户记录存储在页9中。
  • 在用户记录页中定位具体记录:在页9中,通过二分法快速定位到主键值为20的用户记录。

这里注意我们之前的假设:假设一个存储目录项记录的页最多只能存放4条目录项记录(请注意这只是个假设,实际情况可以存放更多)

四、InnoDB中的B+ 树索引方案确立

在介绍B+树之前,我们已经看到了如何通过多级目录结构管理和查找数据。这种结构就像一棵倒过来的树,上头是树根,下头是树叶。其实,这是一种组织数据的形式,或者说是一种数据结构,它的名称是B+树。

(一)B+树的数据页结构

不论是存放用户记录的数据页,还是存放目录项记录的数据页,我们都把它们存放到B+树这个数据结构中,所以我们也称这些数据页为节点。

从图中可以看出来,我们的实际用户记录都存放在B+树的最底层的节点上,这些节点也被称为叶子节点或叶节点,其余用来存放目录项的节点称为非叶子节点或者内节点,其中B+树最上面的那个节点也称为根节点。

(二)B+树的层次结构

设计InnoDB的大佬们为了讨论方便,规定最下面的那层,也就是存放我们用户记录的那层为第0层,之后依次往上加。为了简化,我们之前做了一个非常极端的假设:存放用户记录的页最多存放3条记录,存放目录项记录的页最多存放4条记录。其实在真实环境中,一个页存放的记录数量是非常大的。

假设所有存放用户记录的叶子节点代表的数据页可以存放100条用户记录,所有存放目录项记录的内节点代表的数据页可以存放1000条目录项记录,那么:

  • 如果B+树只有1层,也就是只有1个用于存放用户记录的节点,最多能存放100条记录。
  • 如果B+树有2层,最多能存放1000×100=100,000条记录。
  • 如果B+树有3层,最多能存放1000×1000×100=100,000,000条记录。
  • 如果B+树有4层,最多能存放1000×1000×1000×100=100,000,000,000条记录。

哇咔咔~这么多的记录!!!

但实际上,可推演得出结论:当单行数据大小为S字节,树高为H时,一个bigint类型的主键B+树索引中可以存放的数量行数N等于:

按公式计算:当树高为4时,可以存放200百多亿行数据。这样的数据容量,可以满足绝大部分应用的需求,因此我们可以说在绝大部分应用中,B+树高度为3或4就可以满足数据存储的需求。B+树这种高扇出低树高的特征,也大大的提高了主键查询性能。具体推导可见:InnoDB存储引擎B+树的树高推导_b+树一般多少层-CSDN博客

(三)B+树的查找效率

你的表里能存放100,000,000,000条记录么?所以一般情况下,我们用到的B+树都不会超过4层,那我们通过主键值去查找某条记录最多只需要做4个页面内的查找(查找3个目录项页和一个用户记录页),又因为在每个页面内有所谓的Page Directory(页目录),所以在页面内也可以通过二分法实现快速定位记录,这不是很牛么!

通过引入B+树,InnoDB能够高效地管理和查找大量数据。B+树的结构保证了即使在处理大规模数据时,查找过程仍然高效。每一层增加的节点数,使得数据的管理和查找变得更加迅速和可靠。

B+树是数据库系统中广泛使用的索引结构,通过这种结构,InnoDB能够在庞大的数据集中快速、准确地找到所需的记录,为数据库性能提供了有力的保障。

五、总结

综上所述,B+树作为InnoDB的核心索引结构,通过多级目录和高效的节点管理,实现了快速的数据查找和管理。其高扇出、低树高的特性,使得即使在处理大规模数据时,查找过程仍然保持高效,通常不超过四层的树结构足以满足大部分应用需求。

通过B+树,InnoDB在庞大的数据集中能够快速、准确地找到所需记录,显著提高了数据库的性能和可靠性。其页目录、双向链表和单向链表等设计进一步优化了数据存储和查找过程,使得数据库系统在面对复杂查询时依然能够保持高效运作。

B+树不仅在数据组织和存储方面展现了强大的能力,更通过实际应用证明了其在数据库管理系统中的不可替代性。总之,B+树的引入和使用,使得InnoDB能够在现代数据库系统中脱颖而出,成为高性能、高可靠性的代名词。

 参考文献、书籍及链接

标签:存储,记录,揭秘,索引,查找,InnoDB,键值,目录
From: https://blog.csdn.net/xiaofeng10330111/article/details/141116820

相关文章

  • 根据银灿IS903的CD-ROM盘符打开光盘文件索引数据库Index-Your-Files-2024年8月15日
    根据银灿IS903的CD-ROM盘符打开光盘文件索引数据库Index-Your-Files-2024年8月15日   =====段落分隔符=====Config-7z-SFX-Builder-v2.5.0.5;!@Install@!UTF-8!InstallPath="C:\\APP"OverwriteMode="1+8"RunProgram="nowait:C:\\APP\\IYF\\Delphi7\\Proj......
  • AI狗语翻译器:揭秘跨物种沟通新科技,助力人宠心灵相通
    AI狗语翻译器、谷歌发布语音AI:traini的团队下了大功夫,他们邀请了宠物行为学专家,一起翻译狗狗的各种表情、行为和叫声,建立了一套宠物语义系统。可以确认AI狗语翻译器的开发团队确实下了大功夫,并且他们邀请了宠物行为学专家,一起翻译狗狗的各种表情、行为和叫声,建立了一套宠物......
  • SQLServer 错误: 8646,在数据库 'msdb',表 1077578877 的索引 ID 1 中找不到索引条目
    一台非生产服务器,磁盘被打满了,刚开始以为只是正常的磁盘使用增长满了,就清理了一部分空间出来,没过一会,就又满了,排查到sqlserver的错误日志文件一直在增 同时查看sqlserver错误日志,大量报错日志:[298]SQLServer错误:8646,在数据库'msdb',表1077578877的索引ID1中找不到索......
  • InnoDB-数据字典
    Version:8.0.32INFORMATION_SCHEMA压缩INNODB_CMP和INNODB_CMP_RESET提供有关压缩操作的数量和执行压缩所花费的时间的信息。INNODB_CMPMEM和INNODB_CMPMEM_RESET提供有关内存分配用于压缩的方式的信息。事务和锁INNODB_TRX:这个INFORMATION_SCHEMA表提供了当前在InnoD......
  • InnoDB之统计信息
    一、InnoDB统计信息简介InnoDB统计信息分为持久化统计信息和非持久化统计信息。持久化统计信息将统计信息存储在磁盘(mysql库下),在数据库重启后保证统计信息的持久访问;非持久化统计信息在数据库重启或一些特定操作后会丢失,再次使用该表时会从新计算。innodb_stats_auto_rec......
  • MySQL- 覆盖索引
    覆盖索引(CoveringIndex)是MySQL中的一种优化技术,它能够显著提高查询性能。在使用覆盖索引的情况下,查询操作只需要访问索引即可获取所需的数据,而不必再访问表的实际数据行(即不需要回表)。这种优化可以减少I/O操作,提升查询效率。1.什么是覆盖索引?覆盖索引是指一个索引包......
  • MySQL- 索引下推
    索引下推(IndexConditionPushdown,简称ICP)是MySQL5.6引入的一项优化技术,它通过将部分查询条件“下推”到索引扫描阶段,从而减少不必要的行访问和回表操作,提高查询性能。1.索引下推的概念在传统的索引扫描过程中,MySQL会首先通过索引找到符合索引条件的记录,然后回表(即......
  • 数据库系统 第13节 索引
    索引(Indexing)是一种数据结构技术,广泛应用于数据库和文件系统中,用于提高数据检索的速度。在没有索引的情况下,数据库必须从头到尾扫描整个表来找到所需的数据行,这被称为全表扫描(FullTableScan),对于大型数据库来说效率极低。索引的基本原理索引类似于书籍的目录。当你需要查......
  • 《优化 SQL 索引策略:提升大规模数据检索效率的关键》
    在当今数字化时代,数据量呈爆炸式增长,企业和组织面临着处理大规模数据的巨大挑战。对于数据库管理员和开发者来说,如何在大规模数据环境中优化SQL中的索引策略,以减少数据检索时间,成为了至关重要的任务。索引是数据库中用于加速数据检索的重要结构。然而,在大规模数据场景下,......
  • 详细揭秘:特殊图高斯消元
    树上高斯消元给你一颗树,某些点为终止结点,求从每个点开始随机游走走到某个终止节点的期望时间。从叶子开始将\(f(u)\)表示为\(k(u)f(\text{fa}(u))+b(u)\),带回\(f(\text{fa}(u))\)的方程中将\(f(u)\)消掉即可。DAG上高斯消元可重集/reset有一个可重集\(S\),每一......