首页 > 其他分享 >复制环境搭建

复制环境搭建

时间:2023-05-17 23:44:47浏览次数:40  
标签:Slave log relay -- 环境 复制 Master SQL 搭建

一. 复制环境搭建(基于MySQL 5.7.9-log)

创建一个复制用户

---
--- Master 节点
--
root@mysqldb 10:24:  [(none)]> reset master; # 先将master设置成初始状态

mysql> create user 'repl'@'%' identified by '123456';
Query OK, 0 rows affected (0.01 sec)

mysql> grant replication slave on *.* to 'repl'@'%'; -- 需要replication和slave的权限,线上建议 限制成内网的网段
Query OK, 0 rows affected (0.01 sec)

 

测试在slave上是否可以连接成功

[root@MySQL-Slave ~]# mysql -urepl -h 192.168.220.10 -p

 备份数据

准备测试数据

create table test_1 ( a int not null auto_increment, b int, primary key(a) );
insert into test_1 values(NULL,1),(NULL,2),(NULL,3),(NULL,4)

导出数据库

---
--- 导出数据并传到slave上
---
mysqldump -uroot -p --master-data=1 --single-transaction  --set-gtid-purged=OFF --all-databases --triggers --routines --events > all.sql
rsync all.sql  [email protected]:/opt/mysql

还原数据

mysql < /opt/mysql/all.sql

 CHANGE MASTER

change master to master_host='192.168.220.10',master_user='repl',master_password='123456',master_port=3306,master_log_file='binlog.000001',master_log_pos=1360;

 Start slave

root@mysqldb 10:33:  [(none)]> start slave;
Query OK, 0 rows affected, 1 warning (0.00 sec)

root@mysqldb 10:36:  [(none)]> show slave status\G
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event  -- IO 线程的状态
                  Master_Host: 192.168.220.10
                  Master_User: repl
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: binlog.000001  -- IO线程读取到的文件
          Read_Master_Log_Pos: 2897  -- SQL线程执行到的文件
               Relay_Log_File: relay.000002
                Relay_Log_Pos: 742
        Relay_Master_Log_File: binlog.000001  -- SQL线程执行到的文件
             Slave_IO_Running: Yes  -- io thread 启动成功
            Slave_SQL_Running: Yes  -- sql thread 启动成功
              Replicate_Do_DB:
          Replicate_Ignore_DB:
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table:
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 2897  -- SQL线程执行到文件的位置
              Relay_Log_Space: 939
              Until_Condition: None
               Until_Log_File:
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File:
           Master_SSL_CA_Path:
              Master_SSL_Cert:
            Master_SSL_Cipher:
               Master_SSL_Key:
        Seconds_Behind_Master: 0  -- Slave 落后Master 的秒数
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0  -- (IO)如果这里有信息的话,就是错误提示信息,可以用来排错
                Last_IO_Error:
               Last_SQL_Errno: 0  -- (SQL)如果这里有信息的话,就是错误提示信息,可以用来排错
               Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
             Master_Server_Id: 11
                  Master_UUID: 3c993697-f4b8-11ed-a315-000c2953dece
             Master_Info_File: mysql.slave_master_info
                    SQL_Delay: 0
          SQL_Remaining_Delay: NULL
      Slave_SQL_Running_State: Slave has read all relay log; waiting for more updates
           Master_Retry_Count: 86400
                  Master_Bind:
      Last_IO_Error_Timestamp:
     Last_SQL_Error_Timestamp:
               Master_SSL_Crl:
           Master_SSL_Crlpath:
           Retrieved_Gtid_Set: 3c993697-f4b8-11ed-a315-000c2953dece:10-11
            Executed_Gtid_Set: 3c993697-f4b8-11ed-a315-000c2953dece:10-11,
c3cb7908-f4b8-11ed-a7d9-000c299ea0a8:1-276
                Auto_Position: 0
         Replicate_Rewrite_DB:
                 Channel_Name:
1 row in set (0.00 sec)

Slave_IO_Running 和 Slave_SQL_Running 这两个指标 都为YES ,表示目前的 复制 的状态是正常的

 

Slave上的线程状态

root@mysqldb 10:39:  [(none)]> show processlist;
+----+-----------------+-----------+------+---------+------+--------------------------------------------------------+------------------+
| Id | User            | Host      | db   | Command | Time | State                                                  | Info             |
+----+-----------------+-----------+------+---------+------+--------------------------------------------------------+------------------+
|  1 | event_scheduler | localhost | NULL | Daemon  | 3070 | Waiting on empty queue                                 | NULL             |
|  7 | system user     |           | NULL | Connect | 1309 | Waiting for master to send event                       | NULL             |
|  8 | system user     |           | NULL | Connect | 1309 | Slave has read all relay log; waiting for more updates | NULL             | -- SQL 线程
|  9 | system user     |           | NULL | Connect | 1858 | Waiting for an event from Coordinator                  | NULL             | -- 开启了并行复制,则可以看到Coordinator线程 
| 10 | system user     |           | NULL | Connect | 1309 | Waiting for an event from Coordinator                  | NULL             |
| 11 | system user     |           | NULL | Connect | 1309 | Waiting for an event from Coordinator                  | NULL             |
| 12 | system user     |           | NULL | Connect | 1309 | Waiting for an event from Coordinator                  | NULL             |
| 14 | root            | localhost | NULL | Query   |    0 | starting                                               | show processlist |
+----+-----------------+-----------+------+---------+------+--------------------------------------------------------+------------------+
8 rows in set (0.00 sec)

并行复制参数

slave-parallel-type = LOGICAL_CLOCK
slave-parallel-workers = 4

 

Relay_Log_File 和 Relay_Log_Pos 是中继日志(Relay_Log)信息

由于 IO线程 拉取数据的速度快于 SQL线程 回放数据的速度,所以 Relay_Log 可在两者之间起到一个 缓冲 的作用

Relay_Log 的格式和 binlog 的 格式 是一样的,但是两者的内容是不一样的(不是和binlog一一对应的)

Relay_Log 在 SQL线程 回放完成 后,(默认)就会被删除,而 binlog 不会(由expire_logs_days 控制)

Relay_Log 可以通过设置 relay_log_purge=0 ,使得 Relay_Log 不被删除(MHA中不希望被Purge),需要通过外部的脚本进行删除

 

复制搭建总结

  1. Master 和 Slave 上配置 不同 的 server-id ,且 binlog_format 设置为 ROW 格式
  2. 在 Master 上创建一个 'repl'@'%' 的用户( %替换为内网网段 )
  3. 将 Master 的备份数据恢复到 Slave 上, 注意记录master status信息 ( binlog_file 和 position )
  4. 在 Slave 上进行 change master 操作,注意 master_log_file 和 master_log_pos 要和 备份中的master status一致
  5. 在 Slave 上进行 start slave 操作
  6. 在 Slave 上进行 show slave status\G; 操作,确保 Slave_IO_Running 和 Slave_SQL_Running 均为 YES

 

二. 搭建真正的高可靠复制环境

重要的参数

Master

binlog-do-db = # 需要复制的库

binlog-ignore-db = # 需要被忽略的库

max_binlog_size = 2048M # 默认为1024M

binlog_format = ROW # 必须为ROW

transaction-isolation = READ-COMMITTED

expire_logs_days = 7 # binlog保留多少天,看公司计划安排

server-id = 11 # 必须和所有从机不一样,且从机之间也不一样

binlog_cache_size = # binlog 缓存的大小,设置时要当心

sync_binlog = 1 # 必须设置为1,默认为0

innodb_flush_log_at_trx_commit = 1 # 提交事物的时候刷新日志

innodb_support_xa = 1

 

Slave

log_slave_updates # 将SQL线程回放的数据写入到从机的binlog中去(用于级联复制)

replicate-do-db = # 需要复制的库

replicate-ignore-db = # 需要忽略的库

replicate-do-table = # 需要复制的表

replicate-ignore-table = 需要忽略的表

server-id = 22 # 必须在一个复制集群环境中全局唯一

relay-log-recover = 1 # I/O thread crash safe – IO线程安全

relay_log_info_repository = TABLE # SQL thread crash safe – SQL线程安全

master_info_repository = TABLE

read_only = 1

 

SQL线程高可靠问题

如果将 relay_log_info_repository 设置为 FILE ,MySQL会把回放信息记录在一个 relay-info.log 的文件中,其中包含SQL线程 回放到的Relay_log_name和Relay_log_pos ,以及对应的Master的Master_log_name和Master_log_pos
+--------+       replication     +--------+
| Master |+-------------------->|  Slave  |
+--------+          +---+---+
                  |
                    | Write
                  |
             +--------v-------+
             | relay-info.log    |  (sync_relay_log_info = 10000)
             +----------------+

SQL线程回放event

将 回放到 的binlog的 文件名 和 位置 写到 relay-info.log 文件

参数 sync_relay_log_info = 10000 (fsync)代表每回放 10000 个event, 写一次 relay-info.log

如果该参数设置为 1 ,则表示 每回放一个event , 就写一次relay-info.log ,那写入代价很大,且性能很差

设置为1后,即使性能上可以接受,还是会丢最有一次的操作,恢复起来后还是有1062的错误(重复执行event)

SQL线程的数据回放是 写数据库操作 ,relay-info是 写文件操作 ,这两个操作 很难保证一致性

 

当一个Slave节点在复制数据时,可能发生如下情况, 数据2和数据3写入成功 (且已经落盘),但是 relay-info.log 中的记录还是 数据1的位置 (因为 sync_relay_log_info 的关系,此时还没有fsync),如下图所示:
+----------+ replication +----------+ +----------------+
| Master +-----------------> Slave | | relay-info.log |
+----------+ +----------+ +----------------+
| insert 1 | | insert 1 +------> insert 1 |
+----------+ +----------+ +----------------+
| insert 2 | | insert 2 |
+----------+ +----------+ 2 and 3 no-fsync to
| insert 3 | | insert 3 | relay-info.log
+----------+ +----------+
此时Slave宕机,然后重启,便会产生如下的状况:
+----------+ read info +----------------+
| Slave <---------------+ relay-info.log |
+----------+ +----------------+
| data 1 | | insert 1 |
+----------+ +----------------+
| data 2 |
+----------+ 
| data 3 | 
+----------+
1. Slave的库中 存在数据2和数据3
2. Slave读取relay-info.log中的 Relay_log_name和Relay_log_pos ,此时记录的是 回放到数据1的位置
3. Slave 从数据1开始回放 ,继续 插入数据2和数据3
4. 但是,此时的数据库中 存在数据2和数据3 ,于是发生了 1062 的错误(重复记录)
在MySQL5.6+以后,将 relay_log_info_repository 设置为 TABLE ,relay-info将写入到 mysql.slave_relay_log_info 这张表中

 

标签:Slave,log,relay,--,环境,复制,Master,SQL,搭建
From: https://www.cnblogs.com/gavin-zheng/p/17410695.html

相关文章

  • webpack搭建typescript项目
    基于webpack的typescript项目搭建该项目是搭建了一个数值转换的前端项目,使用了webpack,typescript重点学习webpack.config.js的配置/Users/song/Code/webgpu_learn/webgpu-for-beginners/03typescript/finished/index.html<!DOCTYPEhtml><htmllang="en"><head><m......
  • conda 中 列出已经创建的环境、进入及退出
     001、列出所有环境[root@PC1software]#condainfo-e#condaenvironments:#base*/root/anaconda3busco-py3.7/root/anaconda3/envs/busco-py3.7 002、进入指定环境[root@PC1~]#condaactivatebusco-py3.7 003、退出......
  • Windows下hexo个人博客详细搭建教程
    1.hexo介绍hexo是一个静态的个人博客框架,静态的意思就是没有后台,就是直接将文件放到Web服务器中通过浏览器进行访问官网链接:https://hexo.io/zh-cn/index.html2.安装1)安装node.jshexo需要node.js支持,所以需要先安装node.js,可参考https://blog.csdn.net/chanyeolchichi/art......
  • windows环境下如何优雅搭建ftp服务?
    目录0.前言1.ftp简介2.下载ApacheFTPServer3.下载并解压压缩包4.修改配置文件4.1修改users.properties配置文件4.2修改ftpd-typical.xml配置文件5.启动FTPServer6.访问FTP7.ftp的启动与关闭0.前言由于学习或工作需要,我们经常需要和他人或其他电脑共享文件,在这之前我们普遍......
  • 搭建个人博客-hexo+github详细完整步骤
    自己也算是摸爬滚打搭建成功,然后自己再重新安装部署一遍,把完整步骤分享给大家,同时最后有一些连接,如果我的步骤不行,大家可以参考其他人的(这个有点花费时间,大家提前有个心理准备-_-)一、第一步:下载安装Git1、Git下载地址2、安装步骤个人选择全选选择第二个......
  • 搭建个人博客-hexo+github详细完整步骤
    自己也算是摸爬滚打搭建成功,然后自己再重新安装部署一遍,把完整步骤分享给大家,同时最后有一些连接,如果我的步骤不行,大家可以参考其他人的(这个有点花费时间,大家提前有个心理准备 -_-)一、第一步:下载安装Git1、Git下载地址2、安装步骤个人选择全选选择......
  • Zclip:复制页面内容到剪贴板兼容各浏览器
    WEB开发中,要让用户复制页面中的一段代码、URL地址等信息,为了避免用户拖动鼠标再进行右键复制操作而可能出现的差错,我们可以直接在页面中放置一个复制按钮,只需要轻轻一点这个复制按钮,内容将会被复制,然后用户可以粘贴到想粘贴的地方。 本文将结合实例讲解如何使用一款基于jQuery的插......
  • 支持复制粘贴word图片的百度编辑器
    ​ 当前功能基于PHP,其它语言流程大致相同 1.新增上传wordjson配置在ueditor\php\config.json中新增如下配置:     /* 上传word配置 */    "wordActionName":"wordupload",/* 执行上传视频的action名称 */    "wordFieldName":"upfile",/* 提交的......
  • 生产环境质量保障的重要性
    之前面试一家互联网电商企业时,和他们技术负责人聊过一个话题:质量保障的最高优先级是什么?这个问题上,当时我们达成的共识是这样的:生产环境不要出bug(理想状态);生产环境的问题可以快速发现并解决,问题影响范围可控;围绕这两点来开展质量保障工作,才能保证我们的行动和目标是一致的,......
  • 支持复制粘贴word图片的百度Web编辑器
    ​ 百度ueditor新增的将word内容导入到富文本编辑框的功能怎么没有啊,...ueditor实现word文档的导入和下载功能的方法:1、UEditor没有提供word的导入功能,只能说是粘贴复制。2、方案:用poi来提供word导入,思路是将word转换为html输出,再用UEditor提供的setContent()方法将html的内容......