首页 > 其他分享 >04_VACUUM 剖析

04_VACUUM 剖析

时间:2024-06-19 15:48:12浏览次数:26  
标签:PostgreSQL 04 数据库 VACUUM 剖析 vacuum MVCC 数据

04_VACUUM 剖析

VACUUM 剖析

为什么需要 Vacuum

MVCC

MVCC:Multi-Version Concurrency Control,即多版本并发控制。

PostgreSQL 使用多版本并发控制(MVCC)来支持高并发的事务处理,同时保持数据的一致性和隔离性。MVCC 是一种用于管理数据库并发操作的技术,它允许多个事务同时访问同一数据,而不会产生冲突或阻塞。

MVCC 的工作原理

  1. 版本化

    PostgreSQL 为表中的每行数据存储多个版本。当一个事务更新一行数据时,它不会立即覆盖原始数据,而是创建该数据的新版本。

  2. 事务ID
    每个事务被分配一个唯一的事务ID(XID),该ID 用于跟踪数据的变更。

  3. 快照
    当一个事务开始时,它会创建一个快照,该快照是数据库在某一时刻的状态。即使其他事务在该事务进行时对数据进行了更改,该事务仍然可以看到它开始时的数据库状态。

  4. 可见性规则
    MVCC 通过一组可见性规则来确定事务可以看到哪些数据版本。通常,一个事务只能看到在它开始之前已经提交的其他事务所做的更改。

  5. 垃圾回收
    PostgreSQL 使用 VACUUM​ 命令来清理不再需要的数据版本,释放空间。VACUUM​ 操作由系统自动调度,也可以手动执行。

MVCC 的关键特点:

  • 无锁读取
    MVCC 允许其他事务在读取数据时不被锁定,因为它们可以访问数据的旧版本。
  • 写入时复制
    当数据被更新时,PostgreSQL 会复制旧版本的数据并创建新版本,而不是直接在原地修改。
  • 隔离级别
    PostgreSQL 支持不同的事务隔离级别,如读未提交(Read Uncommitted)、读已提交(Read Committed)、可重复读(Repeatable Read)和串行化(Serializable)。隔离级别决定了事务可以看到其他事务更改的时间点。
  • 性能
    MVCC 可以提高数据库的性能,因为它减少了锁的争用和事务间的阻塞。
  • 一致性
    通过使用快照,MVCC 确保了事务在整个过程中看到的是一致性的数据视图。

MVCC 的挑战:

  • 表膨胀
    由于多版本的存在,表可能会膨胀,需要定期维护。
  • 长事务
    长事务可能导致较旧的数据版本长时间不被回收,从而影响性能和空间。
  • 系统资源
    MVCC 需要额外的系统资源来管理多个数据版本。

MVCC 是 PostgreSQL 强大并发控制机制的核心,它使得数据库能够高效地处理大量的并发事务,同时保持数据的一致性和隔离性。

表膨胀

多版本并发控制机制(MVCC)的原理在于,当它需要更改某块数据的时候,它不会直接去更改,而是会创建这份数据的新版本,在新版本进行更改,所以会存储多份版本,每个事务能看见哪一份版本的数据,由事务隔离级别控制。

MVCC引入了一个问题,如何消除老旧的、没有使用的无用数据(版本),目前主流上有3种处理实现方式:

来看看各种数据库的解决方式:

  1. 以Oracle为代表的,把旧版本数据放入UNDO,新数据放入REDO,然后更改数据。这种方式,旧版本的数据放入了UNDO,所以可以有效避免膨胀。

  2. 以SQL Server为代表的,把旧版本的数据写入专门的临时表空间,新数据写入日志,然后去更改数据。这种方式,旧版本的数据放入了专门的临时表空间,所以也可以有效地避免膨胀。

  3. 以PostgreSQL为代表的,把旧版本标示为无效,新数据写入日志,成功后把新版本的数据写入新的位置。这种实现机制是导致数据膨胀严重的一个重要原因,因为旧版本的数据虽然表示为无效状态,但是没被回收前还是占据存储空间。

Vacuum 工作原理

PostgreSQL的表膨胀清理就需要依赖vacuum,vacuum的主要任务就是清理表和索引中不需要的数据(dead tuples),为新加入的数据清理出来空间。

Vacuum

PostgreSQL中的VACUUM​命令是一种数据库维护任务,用于清理数据库中的无用空间(也称为“dead tuples”或“ghost tuples”),并防止表膨胀。VACUUM​还更新数据库的统计信息,这些信息由查询优化器用来选择最有效的查询计划。以下是VACUUM​如何工作的详细步骤:

  1. 标记删除
    PostgreSQL使用一种称为标记-清除(mark-sweep)的垃圾收集机制。当DELETE或UPDATE命令删除或修改表中的数据行时,原始数据行不会被立即从存储中移除,而是被标记为“已删除”。这意味着这些行仍然占用空间,但对查询来说是不可见的。
  2. 移除元组
    这里的移除dead tuples只是标记为可重用该空间,并没有真正物理删除。所以vacuum清理表后,表的实际空间并没有减小。dead tuples在做移除标记后,vacuum会重新排列剩余的元组以进行碎片化整理。然后,需要更新目标表的VM(可见性映射文件)和FSM(空闲空间映射文件)。
  3. 更新统计信息
    VACUUM​收集有关表和索引中数据分布的统计信息,并将这些信息存储在系统目录中。这些统计信息对于查询优化器来说是至关重要的,因为它们帮助优化器决定如何执行查询。

VACUUM ​在这段时间删除的数据,并不会从此磁盘上删除,只是将数据标为可删除,这部分可删除的空间会出现以下两种情况:

  • 当有新的数据进行,新数据会写入至这部分可删除的空间中,即老数据从磁盘上移除了
  • 系统执行 vacuum full​ ,PgSql 会重新整理所有的元组(Tuples),最终将数据从磁盘上移除,这一步比较耗费资源和时间,有可能锁表,生产环境慎用!

Vacuum Full

Vacuum Full和Vacuum最大的不同就是,Vacuum Full是物理删除dead tuples,并把释放的空间重新交给操作系统,所以在vacuum full后,表的大小会减小为实际的空间大小。其处理过程和 vacuum 大不相同,处理步骤如下:

  1. 创建排它锁

    vacuum full 开始执行时,系统会先对目标创建一个AccessExclusiveLock ,不允许外界再进行访问(为后面拷贝做准备)。

  2. 创建新表

    系统会创建一张表结构和源表一模一样的新表,方便后续做数据操作。

  3. 复制数据

    扫描目标表,把表中的live tuples 拷贝到新表中。

  4. 替换数据表

    删除目标表,在新表上,重新创建索引,更新VM, FSM以及统计信息,相关系统表等。

综上所述,vacuum full的本质是生成一个新的数据文件,然后把原有表的live tuples存放到该数据文件中。对比vacuum, vacuum full缺点就是在执行期间不能对表进行访问,由于需要往新表中导入live tuples数据,其执行效率也会很慢。优点是执行后,表空间只存放live tuples,没有冗余的dead tuples,在执行查询效率上会有所提高。

但是,vacuum full 也有存在的问题,在执行过程中,它会block所有对表的访问,不只是写操作,读操作也会全部block。很多情况下这是不可接受的,尤其是生产环境。

Vacuum 的好处

PostgreSQL中的VACUUM​命令具有多个好处,主要包括:

  1. 回收空间VACUUM​可以清理数据库中的无用空间,即那些被标记为“已删除”的行占用的空间,从而释放这些空间供其他数据使用。
  2. 更新统计信息VACUUM​会更新数据库的统计信息,这些信息对于查询优化器选择最有效的查询计划至关重要。
  3. 维护索引VACUUM​还会维护索引,删除索引中指向已删除数据行的条目,并可能重建索引以优化性能。
  4. 防止表膨胀:随着时间推移,表中的死元组会越来越多,这会导致存储空间利用率下降,VACUUM​可以防止这种情况。
  5. 提高查询性能:通过清理无用的元组,VACUUM​可以减少查询需要遍历的数据量,从而提高查询性能。
  6. 自动回收空间VACUUM​可以自动回收已经释放的空闲空间,减少了数据库管理员的手动干预。

VACUUM​是PostgreSQL数据库维护和性能优化的重要组成部分,正确理解和运用VACUUM​命令及其变种,对于保持数据库的良好运行状态具有重要意义。

Vacuum 的最佳实践

PostgreSQL中的VACUUM​操作是数据库维护的重要组成部分,以下是一些最佳实践:

  1. 定期执行VACUUM:根据业务负载和表的更新频率,制定合理的VACUUM策略,特别是对于频繁更新的大表。
  2. 启用并调优Autovacuum:依赖Autovacuum来自动维护数据库健康。通过调整autovacuum_vacuum_threshold​和autovacuum_vacuum_scale_factor​等参数,可以更精确地控制自动VACUUM的触发时机。
  3. 考虑使用VACUUM FULL:虽然VACUUM FULL​可以最大程度地释放磁盘空间,但由于它可能会锁定表并需要较长时间执行,建议在业务低峰期使用,并确保有足够的磁盘空间来创建表的新副本。
  4. 监控Vacuum活动:利用pg_stat_user_tables​视图或其他监控工具,了解Vacuum操作的状态和效果,以便及时调整相关参数。
  5. 不要无故运行手动VACUUM或ANALYZE:Autovacuum通常可以很好地管理数据库,除非有特殊情况,否则不必频繁手动执行这些操作。
  6. 在数据批量加载后运行ANALYZE:在大量新数据被插入数据库后,运行ANALYZE以确保统计信息的准确性,从而帮助查询优化器制定更有效的查询计划。
  7. 收集数据库信息:在调整参数或实施手动VACUUM/ANALYZE之前,收集有关数据库的足够信息,如表的行数、死元组数、最后一次VACUUM/ANALYZE的时间等,以便做出更明智的决策。

通过遵循这些最佳实践,可以确保数据库的性能和健康状况得到良好的维护。


参考文档:

Kimi.ai - 帮你看更大的世界

PostgreSQL的表膨胀与Vacuum和Vacuum Full - 明矾 - 博客园

深入浅出 PostgreSQL VACUUM 流程,全面掌控数据健康与性能! - ByteZoneX社区

blog/202405/20240530_01.md at master · digoal/blog · GitHub

标签:PostgreSQL,04,数据库,VACUUM,剖析,vacuum,MVCC,数据
From: https://www.cnblogs.com/booleandev/p/18256359/04vacuum-analysis-z4xjpy

相关文章

  • 【转】大众点评CAT开源监控系统剖析
    https://www.cnblogs.com/yeahwell/p/cat.html 参考文档:大众点评的实时监控系统分析(一)CAT_source_analyze透过CAT,来看分布式实时监控系统的设计与实现深度剖析开源分布式监控CAT[分布式监控CAT]Client端源码解析大众点评Cat--架构分析大众点评Cat--Server模块架构分析......
  • docker(ubuntu18.04) + 宿主机(ubuntu20.04) + ROS + 乐视三合一体感摄像头LeTMC-520
    参考链接:https://blog.csdn.net/weixin_45225720/article/details/1144642441.准备docker环境dockerpullhyeonjaegil/vins-monodockerrun-it--privileged--networkhost--gpusall\-v/tmp/.X11-unix:/tmp/.X11-unix\-eDISPLAY-eNVIDIA_VISIBLE_DEVIC......
  • 「清新题精讲」UVA 1048 - Low Cost Air Travel
    UVA1048-LowCostAirTravel\(\mathsf{\color{Thistle}{Statement}}\)给定\(n\)张机票和\(q\)次旅行,每张机票都给出飞机所经过的城市,每一次乘座飞机,必须从飞机的起始站开始,且中途不能乘坐其他飞机再回来乘坐该架飞机,但是可以提前离开飞机。对于第\(i\)次旅行,输出一次......
  • Oracle DataGuard异常处理【ORA-01119 ORA-17502 ORA-15041】→【ORA-01111 ORA-01110
    收到用户反馈DG上查不到最近一天的数据,怀疑同步有问题一、检查备库同步情况两个节点都未看到MRP0进程SQL>selectprocess,status,thread#,sequence#fromv$managed_standby;PROCESS STATUS THREAD# SEQUENCE#---------------------------------------......
  • 代码随想录算法训练营第42天 | 1049. 最后一块石头的重量 II 、494. 目标和 、474.一
    最后一块石头的重量II本题就和昨天的416.分割等和子集很像了,可以尝试先自己思考做一做。视频讲解:https://www.bilibili.com/video/BV14M411C7oVhttps://programmercarl.com/1049.最后一块石头的重量II.html这三体=题都没啥思路/***@param{number[]}stones*@re......
  • 中国剩余定理——AcWing 204. 表达整数的奇怪方式
    中国剩余定理定义中国剩余定理最早出自我国古代的《孙子算经》,是数论中的一个重要定理。它描述了这样一种情况:在模运算下,对于一组线性同余方程组,存在唯一解的条件和求解方法。运用情况常用于在一些涉及到按不同模的余数条件下求解问题。比如在密码学、计算数论、计算机科学......
  • Ubuntu-24-04-LTS-稳定正式版安装
    一、介绍说明Ubuntu24.04LTS已正式发布,代号“NobleNumbat”。Canonical首席执行官MarkShuttleworth称Ubuntu24.04LTS会提供至少12年的支持,并在性能工程和机密计算方面提升明显,还集成了通过TCK认证的LTS版本Java、.NET和最新的Rust工具链。主要亮点如下:......
  • 提供一系列RF和微波:MMA041AA、MMA040AA(射频放大器)MMA022AA,MMS008AA射频开关
    MMA041AA是一款低噪声分布式放大器芯片,工作频率范围为DC至26GHz。该放大器提供18dB的平坦增益、3.2dB噪声系数和22dBm输出功率(1dBm增益压缩)。MMA041AA放大器具有内部匹配50ω的RFI/O,便于集成到MCM中。非常适合测试仪器和通信基础设施应用。特性宽带性能:DC至26GHz高增益......
  • 数据资产驱动的智能化决策:深度剖析数据资产在提升企业决策效率与准确性中的关键作用
    在数字化、信息化日益普及的今天,数据已经成为企业发展的重要资产。数据资产不仅能够帮助企业更好地了解市场需求、优化业务流程,还能在决策过程中提供科学、精准的支持。本文将深入剖析数据资产在提升企业决策效率与准确性中的关键作用,探讨如何有效利用数据资产驱动智能化决策。......
  • LKT4304-物联网数据传输安全解决方案
    随着互联网、智能终端等相关行业的飞速发展,对终端产品远程控制的需求在人们生活中越来越普遍。如何保障后台与终端产品之间数据安全交互、不被篡改、不被盗取成为产品安全性的主要问题。密钥管理和分配:方案中使用的对称密钥可以提前设置或采用临时生成方式;平台和终端存储自身的......