MySQL日志管理、备份与恢复

标签：log -- 备份 MySQL mysql 日志 id

一、MySQL 日志管理

MySQL 的日志默认保存位置为 /usr/local/mysql/data
MySQL 的日志配置文件为/etc/my.cnf ，里面有个[mysqld]项

修改配置文件：
vim /etc/my.cnf
[mysqld]

1.1错误日志

错误日志，用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启
log-error=/usr/local/mysql/data/mysql_error.log #指定日志的保存位置和文件名

1.2通用查询日志

通用查询日志，用来记录MySQL的所有连接和语句，默认是关闭的
general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

1.3二进制日志

二进制日志(binlog)，用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启
log-bin=mysql-bin #也可以 log_bin=mysql-bin

1.4慢查询日志

##慢查询日志，用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的
slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log
long_query_time=5 #设置超过5秒执行的语句被记录，缺省时为10秒
systemctl restart mysqld
mysql -u root -p

1.5查看日志

show variables like 'general%'; #查看通用查询日志是否开启
show variables like 'log_bin%'; #查看二进制日志是否开启
show variables like '%slow%'; #查看慢查询日功能是否开启
show variables like 'long_query_time'; #查看慢查询时间设置
set global slow_query_log=ON; #在数据库中设置开启慢查询的方法

1.6实例操作

（1）修改配置文件并重启服务

（2）查询日志

（3）开启以及关闭慢查询的方法

二、数据库备份的重要性与分类

2.1数据备份的重要性

重要性：

备份的主要目的是灾难恢复
在生产环境中，数据的安全性至关重要
任何数据的丢失都可能产生严重的后果

造成数据丢失的原因：

程序错误
人为操作错误
运算错误
磁盘故障
不可控因素

2.2从物理与逻辑的角度，备份分为

物理备份：对数据库操作系统的物理文件（如数据文件、日志文件等）的备份
逻辑备份：对数据库逻辑组件（如：表等数据库对象）的备份

物理备份方法：

冷备份（脱机备份）：是在关闭数据库的时候进行的
热备份（联机备份）：数据库处于运行状态，依赖于数据库的日志文件
温备份：数据库锁定表格（不可写入但可读）的状态下进行备份操作

2.3从数据库的备份策略角度，备份可分为

完全备份：每次对数据库进行完整的备份
差异备份：备份自从上次完全备份之后被修改过的文件
增量备份：只有在上次完全备份或者增量备份后被修改的文件才会被备份

三、常见的备份方法

3.1物理冷备

备份时数据库处于关闭状态，直接打包数据库文件
备份速度快，恢复时也是最简单的

3.2专用备份工具mydump或mysqlhotcopy

myaqldump常用的逻辑备份工具
mysqlhotcopy仅拥有备份MyISM和ARCHIVE表

3.3启用二进制日志进行增量备份

进行增量备份，需要刷新二进制日志

3.4第三方工具备份

免费MySQL热备份软件Percona XtraBackup

四、MySQL完全备份

4.1完全备份的概念

是对整个数据库，数据库结构和文件结构的备份
保存的是备份完成时刻的数据库
是差异备份与增量备份的基础

4.2优点

备份与恢复操作简单方便

4.3缺点

数据存在大量的重复
占用大量的备份空间
备份与恢复时间长

4.4数据库完全备份分类

（1）物理冷备份与恢复

关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有MySQL目录即可

（2）mysqldump备份与恢复

Mysql自带的备份工具，可方便实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据

五、MySQL增量备份

5.1使用mysqldump进行完全备份存在的问题

备份数据中有重复数据
备份时间与恢复时间过长

5.2增量备份的概念

是自上一次备份后增加/变化的文件或者内容

5.3增量备份的特点

没有重复数据，备份不大，时间短
恢复需要上次完全备份及完全备份之后所有的增量备份才能恢复，且要对所有增备份进行逐个反推恢复

5.4增量备份的方法

MySQL没有提供直接的增量备份方法
可通过MySQL提供的二进制日志间接实现增量备份

5.5MySQL二进制日志对备份的意义

二进制日志保存了所有更新或者可能更新数据库的操作
二进制日志在启动MySQL服务器后开始记录，并在文件达到max_ binlog_ size所设置的大小或者接收到flush logs命令后重新创建新的日志文件
只需定时执行flush logs方法重新创建新的日志，生成二进制文件序列，并及时把这些日志保存到安全的地方就完成了一个时间段的增量备份

5.6MySQL数据库增量恢复

（1）一般恢复：将所有备份的二进制日志内容全部恢复

（2）基于位置恢复

数据库在某一时间点可能既有错误的操作也有正确的操作
可以基于精准的位置跳过错误的操作

（3）基于时间点恢复：跳过某个发生错误的时间点实现数据恢复

六、MySQL 完全备份与恢复

InnoDB存储引擎的数据库在磁盘上存储成三个文件：

db.opt(表属性文件)
表名.frm(表结构文件)
表名.ibd(表数据文件)

6.1物理冷备份与恢复

systemctl stop mysqld
yum -y install xz
 
cd /usr/local/mysql
#压缩备份
tar Jcvf mysql_all_$(date +%F).tar.xz ./data
#解压恢复
tar Jxvf /opt/mysql_all_2022-11-28.tar.xz

（1）备份data目录

（2）删除数据库learn，测试备份能否恢复

6.2mysqldump 备份与恢复

（1）完全备份一个或多个完整的库（包括其中所有的表）

mysqldump -u root -p[密码] --databases 库名1 [库名2] … > /备份路径/备份文件名.sql #导出的就是数据库脚本文件
例：

mysqldump -u root -p --databases bdqn > /opt/mysql_bak/bdqn.sql
mysqldump -u root -p --databases bdqn hs > /opt/mysql_bak/bdqn-hs.sql

（2）完全备份 MySQL 服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例：

mysqldump -u root -p --all-databases > /opt/mysql_bak/all.sql

（3）完全备份指定库中的部分表

mysqldump -u root -p[密码] 库名 [表名1] [表名2] … > /备份路径/备份文件名.sql

使用“-d”选项，说明只保存数据库的表结构
不使用“-d”选项，说明表数据也进行备份

例：

mysqldump -u root -p [-d] bdqn ky23 > /opt/mysql_bak/bdqn_ky23.sql

（4）查看备份文件

grep -v "^--" /opt/mysql_bak/bdqn_ky23.sql  | grep -v "^/" | grep -v "^$"

（5）开启服务

systemctl start mysqld

（6）恢复数据库

mysql -u root -p -e 'drop database bdqn;'
#“-e”选项，用于指定连接 MySQL 后执行的命令，命令执行完后自动退出
mysql -u root -p -e 'SHOW DATABASES;'
 
mysql -u root -p < /opt/mysql_bak/bdqn.sql
mysql -u root -p -e 'SHOW DATABASES;'

（7）恢复数据表

当备份文件中只包含表的备份，而不包含创建的库的语句时，执行导入操作时必须指定库名，且目标库必须存在。

mysqldump -u root -p bdqn test > /opt/mysql_bak/bdqn_test.sql
 
mysql -u root -p -e 'drop table bdqn.test;'
mysql -u root -p -e 'show tables from bdqn;'
 
mysql -u root -p bdqn < /opt/mysql_bak/bdqn_test.sql
mysql -u root -p -e 'show tables from bdqn;'

七、MySQL 增量备份与恢复

7.1MySQL 增量备份

（1）开启二进制日志功能

vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED   指定二进制日志(binlog)的记录格式为 MIXED
server-id = 1

systemctl restart mysqld
ls -l /usr/local/mysql/data/mysql-bin.*

#二进制日志(binlog)有3种不同的记录格式：STATEMENT(基于SQL语句)、ROW(基于行)、MIXED(混合模式)，默认格式是STATEMENT
只要重启服务就会生成二进制文件

（2）可每周对数据库或表进行完全备份

mysqldump -u root -p bbc test4 > /opt/learn_test4_$(date +%F).sql；
mysqldump -u root -p --all-databases> /opt/all_$(date +%F).sql；

详情请见上一章节

（3）可每天进行增量备份操作，生成新的二进制日志文件

mysqladmin -u root -p flush-logs；

（4）插入新数据，以模拟数据的增加或变更

（5）再次生成新的二进制日志文件

mysqladmin -u root -p flush-logs；

（6）查看二进制日志文件的内容

cp /usr/local/mysql/data/mysql-bin.000009 /opt/mysql_bak
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql_bak/mysql-bin.000009

7.2MySQL 增量恢复

（1）一般恢复

模拟丢失更改的数据的恢复步骤

use bdqn;
delete from ky23 where id=4;
delete from ky23 where id=5;
 
mysqlbinlog --no-defaults /opt/mysql_bak/mysql-bin.000010 | mysql -u root -p

（2）断点恢复

模拟丢失更改的数据的恢复步骤

mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000018 #查看二进制日志文件

[root@mysql1 /opt/mysql_bak]#mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql_bak/mysql-bin.000018　　#查看二进制文件

BEGIN
/*!*/;
# at 298
#221129 15:54:37 server id 1 end_log_pos 407 CRC32 0xa4791619 Query thread_id=32 exec_time=0 error_code=0
use `bdqn`/*!*/;
SET TIMESTAMP=1669708477/*!*/;
insert into ky23 values(7,'fzr',22)
/*!*/;
# at 407
#221129 15:54:37 server id 1 end_log_pos 487 CRC32 0xf5de1e51 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708477/*!*/;
COMMIT
/*!*/;
# at 487
#221129 15:54:42 server id 1 end_log_pos 552 CRC32 0x5d396578 Anonymous_GTID last_committed=sequence_number=2
SET @@SESSION.GTID_NEXT= 'ANONYMOUS'/*!*/;
# at 552
#221129 15:54:42 server id 1 end_log_pos 631 CRC32 0xf4d5ce10 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708482/*!*/;
BEGIN
/*!*/;
# at 631
#221129 15:54:42 server id 1 end_log_pos 740 CRC32 0xe6affc26 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708482/*!*/;
insert into ky23 values(8,'fzr',22)
/*!*/;
# at 740
#221129 15:54:42 server id 1 end_log_pos 820 CRC32 0x733be338 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708482/*!*/;
COMMIT
/*!*/;
# at 820
#221129 15:55:06 server id 1 end_log_pos 885 CRC32 0xc44c88f9 Anonymous_GTID last_committed=sequence_number=3
SET @@SESSION.GTID_NEXT= 'ANONYMOUS'/*!*/;
# at 885
#221129 15:55:06 server id 1 end_log_pos 964 CRC32 0x04ee8524 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708506/*!*/;
BEGIN
/*!*/;
# at 964
#221129 15:55:06 server id 1 end_log_pos 1065 CRC32 0xfa73d44a Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708506/*!*/;
delete from ky23 where id=7
/*!*/;
# at 1065
#221129 15:55:06 server id 1 end_log_pos 1145 CRC32 0xeb3e8fe3 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708506/*!*/;
COMMIT
/*!*/;
# at 1145
#221129 15:55:09 server id 1 end_log_pos 1210 CRC32 0x3c812099 Anonymous_GTID last_committed=3 sequence_number=4
SET @@SESSION.GTID_NEXT= 'ANONYMOUS'/*!*/;
# at 1210
#221129 15:55:09 server id 1 end_log_pos 1289 CRC32 0xaf1dbe83 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708509/*!*/;
BEGIN
/*!*/;
# at 1289
#221129 15:55:09 server id 1 end_log_pos 1390 CRC32 0x4e967220 Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708509/*!*/;
delete from ky23 where id=8
/*!*/;
# at 1390
#221129 15:55:09 server id 1 end_log_pos 1470 CRC32 0x5ee86eda Query thread_id=32 exec_time=0 error_code=0
SET TIMESTAMP=1669708509/*!*/;
COMMIT
/*!*/;
# at 1470
#221129 15:55:31 server id 1 end_log_pos 1517 CRC32 0x856771a7 Rotate to mysql-bin.000019 pos: 4
SET @@SESSION.GTID_NEXT= 'AUTOMATIC' /* added by mysqlbinlog */ /*!*/;
DELIMITER ;
# End of log file
/*!50003 SET COMPLETION_TYPE=@OLD_COMPLETION_TYPE*/;
/*!50530 SET @@SESSION.PSEUDO_SLAVE_MODE=0*/;

（1）基于位置恢复

#仅恢复到操作 ID 为“7”之前的数据，即不恢复“8”的数据
mysqlbinlog --no-defaults --stop-position='487' mysql-bin.000018 | mysql -uroot -p

#都恢复7、8数据恢复
mysqlbinlog --no-defaults --start-position='820' /opt/mysql-bin.000018 | mysql -uroot -p

补充：mysqlbinlog --no-defaults --start-position='886' /opt/mysql-bin.0000018 | mysql -uroot -p

（2）基于时间点恢复

#仅恢复到 15:54:42 之前的数据，即不恢复“3”的数据
mysqlbinlog --no-defaults --stop-datetime='2022-11-29 15:54:42' mysql-bin.000018 |mysql -uroot -p

补充：mysqlbinlog --no-defaults --start-datetime='2022-11-29 15:55:31' mysql-bin.000018 |mysql -uroot -p

标签：log,--,备份,MySQL,mysql,日志,id
From： https://www.cnblogs.com/feizirui/p/16933090.html