首页 > 其他分享 >pg_rewind

pg_rewind

时间:2023-08-31 22:00:41浏览次数:28  
标签:10 postgres 09 2021 rewind pg

一、pg_rewind介绍

pg_rewind功能:
流复制主备数据库间数据目录同步工具。
pg_rewind优点:
仅复制产生变化的数据块和一些文件:新数据文件、配置文件、WAL segments。
基本原理:
pg_rewind检查源和目标集群的时间线历史以确定它们的分歧点,并在目标集群的pg_wal目录中找到WAL,一直到达分歧点。分歧点可以在目标时间线、源时间线或它们的共同祖先上找到。
在典型的故障转移场景中,目标集群在产生分歧后很快被关闭,这不是问题,但如果目标集群在生生分歧后运行很长时间,它的旧WAL文件可能不再存在。在这种情况下,您可以手动将它们从WAL归档目录复制到pg_wal目录,或者使用 -c 选项运行pg_rewind以自动从WAL归档中目录中检索它们。
**pg_rewind 的使用不限于故障转移,**例如,可以提升备用服务器主库,运行一些写入事务,然后重新回滚再次成为备用服务器。
运行pg_rewind后,需要完成WAL重放以使数据目录处于一致状态。当目标服务器再次启动时,它将进入归档恢复,并从分歧点之前的最后一个检查点重放源服务器中生成的所有 WAL。如果pg_rewind运行时源服务器中的某些WAL不再可用,因此无法被 pg_rewind 会话复制,则必须在目标服务器启动时使其可用。这可以通过在目标数据目录中创建 recovery.signal 文件并在 postgresql.conf 中配置合适的 restore_command 来完成。
pg_rewind 要求目标服务器在 postgresql.conf 中启用 wal_log_hints 选项或在使用 initdb 初始化集群时启用数据校验和。默认情况下,这些当前均未启用。full_page_writes 也必须设置为 on,但默认情况下启用。
使用pg_rewind命令前提条件:
postgresql.conf
wal_log_hints = on # default:off 或者initdb初始化集群时启用数据校验
full_page_writes = on # default:on

注意点:

  1. 如果pg_rewind在处理过程中失败,那么目标的数据目录很可能不在可以恢复的状态。在这种情况下,建议进行新的全新备份。
  2. 由于pg_rewind完全从源复制配置文件,可能需要在重新启动目标服务器之前更正用于恢复的配置,特别是如果目标被重新引入作为源的备用服务器。如果在倒带操作完成后重新启动服务器但未配置恢复,则目标可能会再次与主服务器分离。
  3. 如果pg_rewind找到无法直接写入的文件,它将立即失败。例如,当源服务器和目标服务器对只读 SSL 密钥和证书使用相同的文件映射时,就会发生这种情况。如果目标服务器上存在此类文件,建议在运行 pg_rewind 之前将其删除。执行倒带后,其中一些文件可能已从源复制,在这种情况下,可能需要删除复制的数据并恢复回倒前使用的链接集。

二、pg_rewind参数

-D directory --target-pgdata=directory
此选项指定与源同步的目标数据目录。在运行 pg_rewind 之前必须彻底关闭目标服务器

–source-pgdata=directory
指定要与目标同步的源服务器数据目录的文件系统路径。此选项要求完全关闭源服务器。

–source-server=connstr
指定一个 libpq 连接字符串以连接到源 PostgreSQL 服务器以与目标同步。连接必须是普通(非复制)连接,角色有足够的权限来执行源服务器上pg_rewind使用的功能或超级用户角色。此选项要求源服务器正在运行并接受连接。

-n --dry-run 
除了实际修改目标目录之外,做任何事情。

-N --no-sync
默认情况下,pg_rewind将等待所有文件安全写入磁盘。此选项会导致 pg_rewind 无需等待就返回,这更快,但意味着随后的操作系统崩溃可能会使同步数据目录损坏。通常,此选项对测试很有用,但不应用于生产安装。

-P --progress
启用进度报告。启用此选项将在从源集群复制数据时提供大致进度报告。

-c --restore-target-wal
如果这些文件在 pg_wal 目录中不再可用,请使用目标集群配置中定义的 restore_command 从 WAL 归档中检索 WAL 文件。

–debug
打印对开发人员调试 pg_rewind 最有用的详细调试输出。

–no-ensure-shutdown
pg_rewind 要求目标服务器在倒带之前彻底关闭。默认情况下,如果目标服务器没有完全关闭,pg_rewind 会以单用户模式启动目标服务器,先完成崩溃恢复,然后停止它。
通过传递这个选项,如果服务器没有完全关闭,pg_rewind 会跳过这个并立即出错。在这种情况下,用户应该自己处理这种情况。

三、执行pg_rewind所需权限

当使用在线集群作为源执行 pg_rewind 时,可以使用源集群上具有足够权限来执行 pg_rewind 的角色来代替超级用户。下面是如何创建这样一个角色,这里命名为 rewind_user:

CREATE USER rewind_user LOGIN;
GRANT EXECUTE ON function pg_catalog.pg_ls_dir(text, boolean, boolean) TO rewind_user;
GRANT EXECUTE ON function pg_catalog.pg_stat_file(text, boolean) TO rewind_user;
GRANT EXECUTE ON function pg_catalog.pg_read_binary_file(text) TO rewind_user;
GRANT EXECUTE ON function pg_catalog.pg_read_binary_file(text, bigint, bigint, boolean) TO rewind_user;

当在完成主备切换的老主库上执行 pg_rewind 时,需要蝗前在新主库上执行 CHECKPOINT 使其控制文件反映最新的时间线信息,pg_rewind 使用它来检查目标集群是否可以使用指定的源簇重绕。

四、pg_rewind如何工作

基本思路是将所文件系统级别的更改从源集群复制到目标集群。

  1. 以源集簇的历史时间线从目标集簇分叉出来的点之前的最后一个检查点为起点,扫描目标集簇的 WAL 日志。对于每一个 WAL 记录,读取每一个被动过的数据块。这会得到在目标集簇中从源集簇被分支出去以后所有被更改过的数据块列表。
  2. 使用直接的文件系统访问(–source-pgdata)或者 SQL (–source-server),把所有那些更改过的块从源集簇拷贝到目标集簇。
  3. 把所有其他诸如pg_xact和配置文件(除了关系文件之外所有的东西)从源集簇拷贝到目标集簇。与基础备份类似,在从源集簇拷贝的数据中,目录pg_dynshmem/、pg_notify/、pg_replslot/、pg_serial/、pg_snapshots/、pg_stat_tmp/以及pg_subtrans/的内容会被忽略。任何以pgsql_tmp开始的文件或目录都会被忽略,backup_label、tablespace_map、pg_internal.init、postmaster.opts以及postmaster.pid也是这样。
  4. 从源集簇应用 WAL,从失效处创建的检查点开始(严格来说,pg_rewind并不应用 WAL,它只是创建一个备份标签文件,该文件让PostgreSQL从那个检查点开始向前重放所有 WAL)。

五、测试

主库

192.168.150.161

pg01

备库

192.168.150.163

pg03

创建主库:
initdb -D /pgdata/12/data -U postgres
alter user postgres with password ‘123456’;

pg_hba.conf添加:
host replication all 192.168.150.163/32 trust
host replication all 192.168.150.161/32 trust

postgresql.conf
wal_level = replica
synchronous_commit = on
full_page_writes = on
wal_log_hints = on
min_wal_size = 800MB
archive_mode = on
archive_command = ‘test ! -f /pgdata/12/archive/%f && cp %p /pgdata/12/archive/%f’
max_wal_senders = 10
hot_standby = on
primary_conninfo = ‘user=postgres passfile=’‘/home/postgres/.pgpass’’ host=192.168.150.163 port=1921 sslmode=disable sslcompression=0 gssencmode=disable krbsrvname=postgres target_session_attrs=any’

启动主库:
pg_ctl -D /pgdata/12/data start

备库:
pg_basebackup -h 192.168.150.161 -p 1921 -U postgres -F p -P -X stream -R -D /pgdata/12/data -l backup20211027_02

-F —format 指定备份输出格式 p plain 表示把主库中各个数据文件、配置文件、目录结构都完全一样的地写到备份目录中; t tar 表示把备库文件打包到一个tar文件中
-P --progress 输出备份进度条
-X --xlog-method= 取值为f fetch 时与参数-x 含义一样。取s stream时表示备份开始后,启动另一个流复制进程接收WAL日志,此方式需要主库max_wal_senders参数大于或等于2。
-R --write-recovery-conf 是否生成recovery.conf文件 12版本中是standby.signal文件
-l 表示备份标识,类似select pg_start_backup(‘lable’)
-U 表示连接用户

postgresql.auto.conf自动生成下列信息,不需手功配置
primary_conninfo = ‘user=postgres passfile=’‘/home/postgres/.pgpass’’ host=192.168.150.161 port=1921 sslmode=disable sslcompression=0 gssencmode=disable krbsrvname=postgres target_session_attrs=any’

启动备库:
pg_ctl -D /pgdata/12/data/start

postgres=# select * from pg_stat_replication;
-[ RECORD 1 ]----+------------------------------
pid              | 482735
usesysid         | 10
usename          | postgres
application_name | walreceiver
client_addr      | 192.168.150.161
client_hostname  | 
client_port      | 42286
backend_start    | 2021-10-27 21:33:59.122261+08
backend_xmin     | 
state            | streaming
sent_lsn         | 0/10000448
write_lsn        | 0/10000448
flush_lsn        | 0/10000448
replay_lsn       | 0/10000448
write_lag        | 
flush_lag        | 
replay_lag       | 
sync_priority    | 0
sync_state       | async
reply_time       | 2021-10-27 21:52:41.704105+08

主备切换:
备库执行切换命令pg_ctl promote

[postgres@pg03 data]$ pg_ctl promote -D /pgdata/12/data
waiting for server to promote....2021-10-29 09:38:32.722 CST [779689] LOG:  received promote request
2021-10-29 09:38:32.722 CST [779693] FATAL:  terminating walreceiver process due to administrator command
2021-10-29 09:38:32.722 CST [779689] LOG:  invalid record length at 0/10021400: wanted 24, got 0
2021-10-29 09:38:32.722 CST [779689] LOG:  redo done at 0/100213C8
2021-10-29 09:38:32.722 CST [779689] LOG:  last completed transaction was at log time 2021-10-29 09:34:36.921164+08
2021-10-29 09:38:32.723 CST [779689] LOG:  selected new timeline ID: 6
2021-10-29 09:38:32.761 CST [779689] LOG:  archive recovery complete
2021-10-29 09:38:32.765 CST [779688] LOG:  database system is ready to accept connections
 done
server promoted

备库已成为主库:

[postgres@pg03 data]$ psql -p 1921
psql (12.8)
Type "help" for help.

postgres=# select pg_is_in_recovery();
 pg_is_in_recovery 
-------------------
 f
(1 row)

原主库执行pg_rewind命令:
问题:

[postgres@pg01 data]$ pg_rewind -D /pgdata/12/data --source-server='host=192.168.150.163  port=1921 user=postgres password=123456' -P
pg_rewind: connected to server
pg_rewind: fatal: target server must be shut down cleanly

出现以上问题,需要先将老主为关闭:

[postgres@pg01 data]$ pg_ctl -D /pgdata/12/data stop
waiting for server to shut down....2021-10-29 09:42:30.879 CST [99487] LOG:  received fast shutdown request
2021-10-29 09:42:30.881 CST [99487] LOG:  aborting any active transactions
2021-10-29 09:42:30.881 CST [99487] LOG:  background worker "logical replication launcher" (PID 103645) exited with exit code 1
2021-10-29 09:42:30.882 CST [99489] LOG:  shutting down
2021-10-29 09:42:31.000 CST [99487] LOG:  database system is shut down
 done
server stopped

再次执行:pg_rewind命令:

[postgres@pg01 data]$ pg_rewind -D /pgdata/12/data --source-server='host=192.168.150.163  port=1921 user=postgres password=123456' -P
pg_rewind: connected to server
pg_rewind: servers diverged at WAL location 0/10021400 on timeline 5
pg_rewind: rewinding from last common checkpoint at 0/10000650 on timeline 5
pg_rewind: reading source file list
pg_rewind: reading target file list
pg_rewind: reading WAL in target
pg_rewind: need to copy 132 MB (total source directory size is 151 MB)
135219/135219 kB (100%) copied
pg_rewind: creating backup label and updating control file
pg_rewind: syncing target data directory
pg_rewind: Done!

原主库生成表示备库文件:standby.signal
修改配置文件postgresql.auto.conf中primary_conninfo参数,指向新的主库

primary_conninfo = 'user=postgres passfile=''/home/postgres/.pgpass'' host=192.168.150.163 port=1921 sslmode=disable sslcompression=0 gssencmode=disable krbsrvname=postg
res target_session_attrs=any'

启动备库:

[postgres@pg01 data]$ pg_ctl -D /pgdata/12/data start
waiting for server to start....2021-10-29 09:45:46.563 CST [105924] LOG:  starting PostgreSQL 12.8 on x86_64-pc-linux-gnu, compiled by gcc (GCC) 4.8.5 20150623 (Red Hat 4.8.5-36), 64-bit
2021-10-29 09:45:46.563 CST [105924] LOG:  listening on IPv4 address "0.0.0.0", port 1921
2021-10-29 09:45:46.563 CST [105924] LOG:  listening on IPv6 address "::", port 1921
2021-10-29 09:45:46.564 CST [105924] LOG:  listening on Unix socket "/tmp/.s.PGSQL.1921"
2021-10-29 09:45:46.573 CST [105925] LOG:  database system was interrupted while in recovery at log time 2021-10-29 09:38:32 CST
2021-10-29 09:45:46.573 CST [105925] HINT:  If this has occurred more than once some data might be corrupted and you might need to choose an earlier recovery target.
2021-10-29 09:45:46.579 CST [105925] LOG:  entering standby mode
2021-10-29 09:45:46.580 CST [105925] LOG:  redo starts at 0/10000618
2021-10-29 09:45:46.582 CST [105925] LOG:  consistent recovery state reached at 0/1003EC08
2021-10-29 09:45:46.582 CST [105925] LOG:  invalid record length at 0/1003EC08: wanted 24, got 0
2021-10-29 09:45:46.582 CST [105924] LOG:  database system is ready to accept read only connections
2021-10-29 09:45:46.587 CST [105929] LOG:  started streaming WAL from primary at 0/10000000 on timeline 6
 done
server started

验证是否为备库:

[postgres@pg01 data]$ psql -p 1921
psql (12.8)
Type "help" for help.

postgres@[local]:1921=#select pg_is_in_recovery();
 pg_is_in_recovery 
-------------------
 t
(1 row)
postgres 105924      1  0 09:45 ?        00:00:00 /opt/pg12/bin/postgres -D /pgdata/12/data
postgres 105925 105924  0 09:45 ?        00:00:00 postgres: startup   recovering 000000060000000000000010
postgres 105926 105924  0 09:45 ?        00:00:00 postgres: checkpointer   
postgres 105927 105924  0 09:45 ?        00:00:00 postgres: background writer   
postgres 105928 105924  0 09:45 ?        00:00:00 postgres: stats collector   
postgres 105929 105924  0 09:45 ?        00:00:00 postgres: walreceiver   streaming 0/1003F998

验证数据库是否传输,主库插入数据,查看是否同步到备库:
主库:

postgres=# select * from test;
 a | b 
---+---
 2 | 2
 3 | 3
 4 | 4
(3 rows)

postgres=# **insert into test values (5,5);**
INSERT 0 1
postgres=# select * from test;
 a | b 
---+---
 2 | 2
 3 | 3
 4 | 4
 5 | 5
(4 rows)

postgres=#

备库:

postgres@[local]:1921=#select * from test;
 a | b 
---+---
 2 | 2
 3 | 3
 4 | 4
** 5 | 5**
(4 rows)

postgres@[local]:1921=#

到此主库切换命令pg_rewind解释完成。


标签:10,postgres,09,2021,rewind,pg
From: https://blog.51cto.com/u_13482808/7313195

相关文章

  • IPAddress 类、IPInterfaceProperties 类、IPGlobalProperties 类
    一、IPAddress类IPAddress类在System.NET命名空间中,它只能单纯地用来保存一般地址信息。System.Net.NetworkInformation命名空间中还有几种IP地址有关的类,用来保存特定类型地址的相关信息,如:相关类:IPAddressCollection保存一组IPAddres......
  • pg10 安装pageinspect插件
    1.切换到源码包的contrib路径下,ls插件名称cd/data/soft/PostGreSQL/postgresql-10.20/contrib/pageinspect编译该插件makegcc-Wall-Wmissing-prototypes-Wpointer-arith-Wdeclaration-after-statement-Wendif-labels-Wmissing-format-attribute-Wformat-security-fn......
  • pg_dump备份加密
    瀚高数据库目录文档用途详细信息文档用途通常目前备份过程中,备份出的数据都为明文,而在备份数据的传输或者使用过程中,都有可能出现备份数据丢失的情况。在这种情况下,需要对备份出的数据进行加密处理。详细信息1.介绍对于备份时输入的口令,使用SM3加密算法,生成类似SM3***格式的16......
  • Greenplum 数据库启用pgbouncer
    pgbouncer是PostgreSQL的轻量的连接池,可以有效降低连接数,提升系统性能。Greenplum当前版本已经自带,只是多数组织在实践中似乎并未启用此服务,也算是一种资源的浪费了。gpbouncer有三种连接方式:Sessionpooling/会话连接池最普通的方式,在客户端连接的时候,在它的连接生命期内,会给......
  • FPGA芯片结构介绍及工作原理解析
     FPGA工作原理与简介  如前所述,FPGA是在PAL、GAL、EPLD、CPLD等可编程器件的基础上进一步发展的产物。它是作为ASIC领域中的一种半定制电路而出现的,即解决了定制电路的不足,又克服了原有可编程器件门电路有限的缺点。  由于FPGA需要被反复烧写,它实现组合逻辑的基本结构不......
  • vue--day74--四个map方法的使用mapState ,mapGetters,mapMutations,mapActions
    1.Count.vue<template><div><h1>当前求和位{{sum}}</h1><h1>当前求和放大10倍后是{{bigSum}}</h1><h1>我在{{school}},学习{{subject}}</h1><selectv-model.number="n"><optionva......
  • Postgresql-数据库无法停止,报错:pg_ctl server does not shut down
    根据您的查询,pg_ctlserverdoesnotshutdown(pg_ctl服务无法关闭)的原因可能有很多。以下是一些可能的解决方案和代码示例:(1)杀死所有与PostgreSQL相关的进程:使用以下命令尝试停止所有与PostgreSQL相关的进程:pg_ctl-D/path/to/postgresql/data_directorystop-mimmediate这......
  • TDSQL-PG 数据重分布
    记录一次数据重分布造成的数据库抖动。何为数据重分布: select*fromt1,t2wheret1.id1=t2.id2;若id1,id2都为分片键,在做算子下推到dn时,由于分片键是hash算法,所以id1,id2相同的值都在同一个dn上。每个dn可以独立完成数据过滤。dn计算的数据在CN聚合后,返回客户端。若id1......
  • 基于友晶科技 FPGA开发板 DE2-115、DE1-SOC 和 DE10-STANDARD 的VGA图片显示(ADV7123)
      选择一个图 调整像素 转换成mif文件   ......
  • flutter升级错误“Your flutter checkout has local changes that would be erased by
    在升级FlutterSDK时可能会报如下错误:Yourfluttercheckouthaslocalchangesthatwouldbeerasedbyupgrading.Ifyouwanttokeepthesechanges,itisrecommendedthatyoustashthemvia“gitstash”orelsecommitthechangestoalocalbranch.Ifitisok......