首页 > 其他分享 >openGauss 并行逻辑解码

openGauss 并行逻辑解码

时间:2024-03-28 10:25:40浏览次数:17  
标签:语句 逻辑 解码 并行 复制 openGauss

并行逻辑解码

可获得性

本特性自openGauss 3.0.0版本开始引入。

特性简介

支持多线程并行解码。

客户价值

大幅提升逻辑解码性能,解码速度由3~5MBps可提升到标准场景(16核CPU、内存128G、网络带宽 > 200MBps、表的列数为10~100、单行数据量0.1KB~1KB、DML操作以insert为主、不涉及落盘事务即单个事务中语句数量小于4096)下的100MBps。

特性描述

在使用JDBC或pg_recvlogical解码时,设置配置选项parallel-decode-num为大于1且小于等于20的值,开启并行解码特性,使用一个读取线程、多个解码线程以及一个发送线程协同进行逻辑解码操作,显著提升解码速度。

特性增强

无。

特性约束

  1. 当前的硬件和网络环境正常;由于逻辑日志一般为xlog的两倍,为保证xlog速度达到100MBps,I/O带宽至少保证200MBps;因为reader、decoder、sender线程均需预留资源,CPU需预留并发数+2的核数,如4并发场景需要预留6核。在实际场景中,使用备机解码即可保证需求,无需进行特殊的资源预留规划。为保证解码性能达标以及尽量降低对业务的影响,一台备机上应尽量仅建立一个并行解码连接,保证CPU、内存、带宽资源充足。
  2. 日志级别的guc参数wal_level = logical。
  3. guc参数max_replication_slots >= 每个DN所需的(物理流复制槽数+备份槽数+逻辑复制槽数)。
  4. 解码配置选项parallel-decode-num > 1且<= 20,指定并行的解码线程数。
  5. 不支持DDL语句解码。
  6. 不支持列存、数据页复制的解码。
  7. 不支持解码分布式事务,当前机制为从DN解码,无法保证分布式事务一致性解码。
  8. 单条元组大小不超过1GB,考虑解码结果可能大于插入数据,因此建议单条元组大小不超过500MB。
  9. 不支持压缩表的DML语句解码。
  10. openGauss支持解码的数据类型为:INTEGER、BIGINT、SMALLILNT、TINYINT、SERIAL、SMALLSERIAL、BIGSERIAL、FLOAT、DOUBLE PRECISION、DATE、TIME[WITHOUT TIME ZONE]、TIMESTAMP[WITHOUT TIME ZONE]、CHAR(n)、VARCHAR(n)、TEXT。
  11. 在需要ssl连接的场景,需要前置条件保证guc参数ssl = on。
  12. 不支持interval partition表复制。
  13. 在事务中执行DDL语句后,该DDL语句与之后的语句不会被解码。
  14. 如需进行备机解码,需在对应主机上设置guc参数enable_slot_log = on。
  15. 当前不支持超大CLOB解码。
  16. 不允许主备,多个备机同时使用同一个复制槽解码,否则会产生数据不一致。
  17. 禁止在使用逻辑复制槽时在其他节点对该复制槽进行操作,删除复制槽的操作需在该复制槽停止解码后执行。

依赖关系

依赖备机解码。

标签:语句,逻辑,解码,并行,复制,openGauss
From: https://www.cnblogs.com/renxyz/p/18100930

相关文章

  • openGauss 参数调优与诊断
    参数调优与诊断可获得性本特性自openGauss1.0.0版本开始引入特性简介本功能是一款数据库集成的参数调优工具,通过结合深度强化学习和全局搜索算法等AI技术,实现在无需人工干预的情况下,获取最佳数据库参数配置。本功能不强制与数据库环境部署到一起,支持独立部署,脱离数据库安装环......
  • openGauss 产品定位
    产品定位openGauss是一款支持SQL2003标准语法,支持主备部署的高可用关系型数据库。多种存储模式支持复合业务场景,新引入提供原地更新存储引擎。NUMA化数据结构支持高性能。Paxos一致性日志复制协议,主备模式,CRC校验支持高可用。支持全密态计算,账本数据库等安全特性,提供全方位......
  • openGauss 备机事务内透明写转发
    备机事务内透明写转发可获得性本特性自openGauss5.1.0版本开始引入,仅适用于资源池化架构。特性简介本特性是在传统主备架构下的备机事务写转发特性基础上,在资源池化架构下进行的特性增强。传统架构下的备机写转发特性是只要在备机上有开启事务操作,会将整个事务全部转发给主机......
  • openGauss 备机增加删除
    备机增加删除可获得性本特性自openGauss2.0.0版本开始引入。特性简介支持新增和删除备节点。客户价值当主库的读取压力较大,或者用户想要提升数据库灾难恢复能力,需要新增备节点。当集群中的某些备节点发生故障无法短时间内进行修复时,为保证集群状态正常,用户可以先将故障节点......
  • openGauss 表级别并行恢复优化
    表级别并行恢复优化可获得性本特性自openGauss5.1.0版本开始引入。特性同时合入3.0.5。特性简介允许用户在配置表级别并行恢复时,通过更多的参数控制回放行为,以达到增加恢复效率的目的。客户价值通过wal恢复效率提升可减小备库wal日志积压,减小磁盘存储压力。在switchover......
  • openGauss X_Tuner_参数调优与诊断
    X-Tuner:参数调优与诊断可获得性本特性自openGauss1.0.0版本开始引入。特性简介X-Tuner是一款数据库集成的参数调优工具,通过结合深度强化学习和全局搜索算法等AI技术,实现在无需人工干预的情况下,获取最佳数据库参数配置。本功能不强制与数据库环境部署到一起,支持独立部署,脱......
  • openGauss Xlog-no-Lock-Flush
    XlognoLockFlush可获得性本特性自openGauss2.0.0版本开始引入。特性简介取消WalInsertLock争抢及WalWriter专用磁盘写入线程。客户价值在保持原有XLog功能不变的基础上,进一步提升系统性能。特性描述对WalInsertLock进行优化,利用LSN(LogSequenceNumber)及LRC(LogRecor......
  • openGauss SMP并行执行
    SMP并行执行可获得性本特性自openGauss1.1.0版本开始引入。特性简介openGauss的SMP并行技术是一种利用计算机多核CPU架构来实现多线程并行计算,以充分利用CPU资源来提高查询性能的技术。客户价值SMP并行技术充分利用了系统多核的能力,来提高重查询的性能。特性描述在复杂查......
  • openGauss SQL-by-pass
    SQLbypass可获得性本特性自openGauss1.0.0版本开始引入。特性简介通过对OLTP场景典型查询的定制化执行方案来提高查询性能。客户价值提升OLTP类查询的性能。特性描述在典型的OLTP场景中,简单查询占了很大一部分比例。这种查询的特征是只涉及单表和简单表达式的查询,因此......
  • openGauss SQLdiag_慢SQL发现
    SQLdiag:慢SQL发现可获得性本特性自openGauss1.1.0版本开始引入。特性简介SQLdiag是一个SQL语句执行时间预测工具,通过模板化方法,实现在不获取SQL语句执行计划的前提下,依据语句逻辑相似度与历史执行记录,预测SQL语句的执行时间。客户价值工具不需要用户提供SQL执行计划,对数......