首页 > 数据库 >MySQL主从复制与读写分离

MySQL主从复制与读写分离

时间:2022-12-08 15:02:11浏览次数:29  
标签:主从复制 同步 读写 复制 master MySQL 服务器 日志 数据库

 

 

 

 

 

一、MySQL主从复制

1.1 MySQL的复制类型

基于SQL语句的复制(STATEMENT默认)

在主服务器上执行的 SQL 语句,在从服务器上执行同样的语句。MySQL 默认采用基于语句的复制,效率比较高。

基于行的复制(ROW)

把改变的内容复制过去,而不是把命令在从服务器上执行一遍。

混合类型的复制(MIXED)

默认采用基于语句的复制,一旦发现基于语句无法精确复制时,就会采用基于行的复制。

1.2 MySQL主从复制的工作原理

主服务器 master 记录数据库通过 dump 线程将操作记录到二进制日志(Binary log)中。

从服务器开启 I/O 线程向主服务器发送同步日志请求。

主服务器把二进制日志内容发送给从服务器。

从服务器将二进制日志记录的操作同步到relay log (中继日志) (存在从服务器的缓存中)。

从服务器中的sql线程将relay log日志记录的操作在从服务器执行后写入从服务器数据库。

首先client端(tomcat)将数据写入到master节点的数据库中,master节点会通知存储引擎提交事务,同时会将数据以(基于行、基于sql、基于混合)的方式保存在二进制日志中

SLAVE节点会开启I/O线程,用于监听master的二进制日志的更新,一旦发生更新内容,则向master的dump线程发出同步请求

master的dump线程在接收到SLAVE的I/O请求后,会读取二进制文件中更新的数据,并发送给SLAVE的I/O线程

SLAVE的I/O线程接收到数据后,会保存在SLAVE节点的中继日志中

同时,SLAVE节点钟的SQL线程,会读取中继日志钟的数据,更新在本地的mysql数据库中

最终,完成slave——>复制master数据,达到主从同步的效果

组成:

两个日志:二进制和中继日志

三个线程:master的dump和alave的I/O、SQL

主要原理: master将数据保存在二进制文件中,I/O向dump发出同步请求,dump把数据发送给I/O线程,I/O写入本地的中继日志,SQL线程读取本地的中继日志数据,同步到自己的数据库中,完成同步。

 MySQL四种同步方式:

异步复制(Async Replication):主库将更新写入Binlog日志文件后,不需要等待数据更新是否已经复制到从库中,就可以继续处理更多的请求。Master将事件写入binlog,但并不知道Slave是否或何时已经接收且已处理。在异步复制的机制的情况下,如果Master宕机,事务在Master上已提交,但很可能这些事务没有传到任何的Slave上。假设有Master->Salve故障转移的机制,此时Slave也可能会丢失事务。MySQL复制默认是异步复制,异步复制提供了最佳性能。

同步复制(sync Replication):主库将更新写入Binlog日志文件后,需要等待数据更新已经复制到从库中,并且已经在从库执行成功,然后才能返回继续处理其它的请求。同步复制提供了最佳安全性,保证数据安全,数据不会丢失,但对性能有一定的影响。

半同步复制(Async Replication):主库提交更新写入二进制日志文件后,等待数据更新写入了从服务器中继日志中,然后才能再继续处理其它请求。该功能确保至少有1个从库接收完主库传递过来的binlog内容已经写入到自己的relay log里面了,才会通知主库上面的等待线程,该操作完毕。

半同步复制,是最佳安全性与最佳性能之间的一个折中。

MySQL 5.5版本之后引入了半同步复制功能,主从服务器必须安装半同步复制插件,才能开启该复制功能。如果等待超时,超过rpl_semi_sync_master_timeout参数设置时间(默认值为10000,表示10秒),则关闭半同步复制,并自动转换为异步复制模式。当master dump线程发送完一个事务的所有事件之后,如果在rpl_semi_sync_master_timeout内,收到了从库的响应,则主从又重新恢复为增强半同步复制。

ACK (Acknowledge character)即是确认字符。

增强半同步复制(lossless Semi-Sync Replication)、无损复制

增强半同步是在MySQL 5.7引入,其实半同步可以看成是一个过渡功能,因为默认的配置就是增强半同步,所以,大家一般说的半同步复制其实就是增强的半同步复制,也就是无损复制。

增强半同步和半同步不同的是,等待ACK时间不同

rpl_semi_sync_master_wait_point = AFTER_SYNC(默认)

半同步的问题是因为等待ACK的点是Commit之后,此时Master已经完成数据变更,用户已经可以看到最新数据,当Binlog还未同步到Slave时,发生主从切换,那么此时从库是没有这个最新数据的,用户看到的是老数据。

增强半同步将等待ACK的点放在提交Commit之前,此时数据还未被提交,外界看不到数据变更,此时如果发送主从切换,新库依然还是老数据,不存在数据不一致的问题。

MySQL主从复制延迟

master服务器高并发,形成大量事务

网络延迟

主从硬件设备导致

cpu主频、内存io、硬盘io

本来就不是同步复制、而是异步复制

① 从库优化Mysql参数。比如增大innodb_buffer_pool_size,让更多操作在Mysql内存中完     成,减少磁盘操作。

②从库使用高性能主机。包括cpu强悍、内存加大。避免使用虚拟云主机,使用物理主机,这样提升了i/o方面性。

③从库使用SSD磁盘

④网络优化,避免跨机房实现同步

主从进行复制

slave复制二进制日志到本地节点,保存为中继日志文件的方式,最后基于这个中继日志,进行恢复操作,将执行的sql同步执行在自己的数据库内部,最终达到与master的数据一致性

 

MySQL读写分离原理

读写分离就是只在主服务器上写,只在从服务器上读。

基本的原理是让主数据库处理事务性查询,而从数据库处理 select 查询。

数据库复制被用来把主数据库上事务性查询导致的变更同步到集群中的从数据库。

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询(select)多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

读写分离的意义:基本的原理是让主数据库处理事务性增、改、删操作(INSERT、UPDATE、DELETE),而从数据库处理SELECT查询操作。数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库。

因为数据库的“写”(写10000条数据可能要3分钟)操作是比较耗时的。

但是数据库的“读”(读10000条数据可能只要5秒钟)。

所以读写分离,解决的是,数据库的写入,影响了查询的效率。

什么时候需要读写分离

数据库不一定要读写分离,如果程序使用数据库较多时,而更新少,查询多的情况下会考虑使用。利用数据库主从同步,再通过读写分离可以分担数据库压力,提高性能。

 MySQL读写分离类型

基于程序代码内部实现

在代码中根据 select、insert 进行路由分类,这类方法也是目前生产环境应用最广泛的。

优点是性能较好,因为在程序代码中实现,不需要增加额外的设备为硬件开支;

缺点是需要开发人员来实现,运维人员无从下手。

但是并不是所有的应用都适合在程序代码中实现读写分离,像一些大型复杂的Java应用,如果在程序代码中实现读写分离对代码改动就较大。

 

搭建MySQL主从复制

实验环境:

Master:192.168.111.19        系统:CentOS7        mysql-5.7.17

Slave1:192.168.111.23        系统:CentOS7        mysql-5.7.17

Slave2:192.168.111.24        系统:CentOS7        mysql-5.7.17
关闭防火墙及增强机制

systemctl stop firewalld
systemctl disable firewalld
setenforce 0

3.1 MySQL主从服务器时间同步

主服务器设置(192.168.111.19)

yum -y install ntp
vim /etc/ntp.conf

 

 

server 192.168.111.0           #设置本地是时钟源,注意修改网段
fudge 192.168.111.0 stratum 8         #设置时间层级为8(限制在15内)
 
systemctl start ntpd

 从服务器设置(192.168.111.23)、(192.168.111.24)

yum -y install ntp ntpdate
 
service ntpd start
/usr/sbin/ntpdate 192.168.111.19     #进行时间同步,指向Master服务器IP
 
crontab -e
*/30 * * * * /usr/sbin/ntpdate 192.168.111.19

从服务器的mysql配置

vim /etc/my.cnf
server-id = 2           #修改,注意id与Master的不同,两个Slave的id也要不同
relay-log=relay-log-bin           #添加,开启中继日志,从主服务器上同步日志文件记录到本地
relay-log-index=slave-relay-bin.index   #添加,定义中继日志文件的位置和名称
relay_log_recovery = 1                       #选配项
#当 slave 从库宕机后,假如 relay-log 损坏了,导致一部分中继日志没有处理,则自动放弃所有未执行的 relay-log,并且重新从 master 上获取日志,这样就保证了relay-log 的完整性。默认情况下该功能是关闭的,将 relay_log_recovery 的值设置为 1 时, 可在 slave 从库上开启该功能,建议开启。
 
systemctl restart mysqld
 
mysql -u root -p
change master to master_host='192.168.111.19' , master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=604;
#配置同步,注意 master_log_file 和 master_log_pos 的值要与Master查询的一致,这里的是例子,每个人的都不一样
 
start slave;            #启动同步,如有报错执行 reset slave;
show slave status\G         #查看 Slave 状态
//确保 IO 和 SQL 线程都是 Yes,代表同步正常。
Slave_IO_Running: Yes       #负责与主机的io通信
Slave_SQL_Running: Yes        #负责自己的slave mysql进程

重启进入数据库

 

 

 

 两个yes才正确

常见错有:没关闭防火墙,单词拼错,IP地址错误

验证主从复制结果

 

 

 

标签:主从复制,同步,读写,复制,master,MySQL,服务器,日志,数据库
From: https://www.cnblogs.com/123456789SI/p/16939514.html

相关文章

  • MySQL之MHA高可用配置及故障切换
    一、MHA的概述1、MHA的概念2.MHA的组成3.MHA的特点二、搭建MySQLMHA的操作步骤1、实验思路2、环境准备3、修改Master、Slave1、Slave2节点的主机名4、修改M......
  • Mysql中where if问题
    网上关于Mybatis中where与if的说法乱七八糟的,Myabtis官网写的很清晰。为了防止误导他人,在此记录:1.where语句+<if>标签<selectid="findActiveBlogLike"resultTy......
  • MySQL空间暴涨150G导致锁定,发生了什么
     背景12月1号中午突然收到大量报警,某客户环境操作数据库大量失败,报错信息如下图所示:这个报错我是第一次见,一时间有点无所适从,但是从字面意思来看是MySQL目前处于LOCK......
  • mysql group by 实现组内排序
    1、同一个分组中假如有三条数据,我们想要获取指定的第一条数据,作为查出来的数据2、第一步:通过时间排序,并将id拼接起来,截取第一个id,(也就是最新的一条id)selectSUBSTRING_......
  • MySQL InnoDB Cluster 恢复故障成员(数据库为5.7版本)
    问题:InnoDBCluster3个节点中,1个节点丢失,状态为:MISSING问题分析:因为发现问题比较晚。数据库配置的日志是7天循环删除的。也就是说当MISSING时间大于7天的时候,就不能直接......
  • 大数据-业务数据采集-FlinkCDC 读取 MySQL 数据存入 Kafka
    目录作用app产生各层数据的flink任务bean数据对象common公共常量utils工具类app.ods.FlinkCDC.javapackagecom.atguigu.app.ods;import......
  • centos7安装mysql6.5
    1、配置mysql6.5yum源wget-P.http://repo.mysql.com/mysql-community-release-el6-5.noarch.rpmrpm-ivhmysql-community-release-el6-5.noarch.rpm清理yum源缓......
  • mysql的qps与tps等指标监控
    1.SQL概念StructuredQueryLanguage---结构化查询语言有数据定义语言(DDL),例如:CREATE、DROP、ALTER等语句;数据操作语言(DML),例如:INSERT(插入)、UPDATE(修改)、DELETE(删除)语......
  • mysql分组取每组前几条记录(排序)
    首先来造一部分数据,表mygoods为商品表,cat_id为分类id,goods_id为商品id,status为商品当前的状态位(1:有效,0:无效)CREATETABLE`mygoods`(`goods_id`int(11)unsigned......
  • [转]MySQL数据类型详解
    原文地址:https://www.cnblogs.com/lteal/archive/2013/03/04/2943061.htmlMySQL数据类型,可以被分为3类:数值类型、日期和时间类型以及字符串(字符)类型 方括号(“[”和......