MySQL数据库日志管理、备份与恢复

一、MySQL 日志管理

MySQL的日志默认保存位置为/usr/local/mysql/data

vim /etc/my.cnf 
[mysqld]
......


systemctl restart mysql

1、错误日志，用来记录当MySQL启动、停止或运行时发生的错误信息，默认已开启

log-error=/usr/local/mysql/data/mysql_error.log     #指定日志的保存位置和文件名

2、通用查询日志，用来记录MySQL的所有连接和语句，默认是关闭的

general_log=ON
general_log_file=/usr/local/mysql/data/mysql_general.log

3、二进制日志(binlog)，用来记录所有更新了数据或者已经潜在更新了数据的语句，记录了数据的更改，可用于数据恢复，默认已开启

log-bin=mysql-bin 
或
log_bin=mysql-bin

4、慢查询日志，用来记录所有执行时间超过long_query_time秒的语句，可以找到哪些查询语句执行时间长，以便于优化，默认是关闭的

slow_query_log=ON
slow_query_log_file=/usr/local/mysql/data/mysql_slow_query.log    #指定文件路径和名称
long_query_time=5          #设置执行超过5秒的语句会被记录，缺省时为10秒

mysql -u root -p
show variables like 'general%';    #查看通用查询日志是否开启
show variables like 'log_bin%';     #查看二进制日志是否开启
show variables like '%slow%';    #查看慢查询日功能是否开启
show variables like ' long_query_time';    #查看慢查询时间设置
set global slow_query_log=ON;    #在数据库中设置开启慢查询的方法


xxx%	以slow开头的字段
%xxx	以slow结尾的字段
%xxx% 	只要出现slow字段的都会显示出来
xxx		精准查询

二、数据备份的重要性

备份的主要目的是灾难恢复
在生产环境中，数据的安全性至关重要
任何数据的丢失都可能产生严重的后果

2.1 造成数据丢失的原因

1、程序错误
2、人为操作错误
3、运算错误
4、磁盘故障
5、灾难(如火灾、地震)和盗窃

三、数据库备份的分类

3.1 从物理与逻辑的角度

备份可分为

物理备份:对数据库操作系统的物理文件(如数据文件、日志文件等)的备份
逻辑备份:对数据库逻辑组件(如:表等数据库对象)的备份

3.1.1 物理备份方法

冷备份(脱机备份)：是在关闭数据库的时候进行的
热备份(联机备份)：数据库处于运行状态，依赖于数据库的日志文件
温备份：数据库锁定表格(不可写入但可读)的状态下进行备份操作

3.2 从数据库的备份策略角度

备份可分为

完全备份：每次对数据库进行完整的备份
差异备份：备份自从上次完全备份之后被修改过的文件
增量备份：只有在上次完全备份或者增量备份后被修改的文件才会被备份

四、常见的备份方法

1、物理冷备
备份时数据库处于关闭状态，直接打包数据库文件
备份速度快，恢复时也是最简单的

2、专用备份工具mydump或mysqlhotcopy
mysqldump常用的逻辑备份工具
mysqlhotcopy仅拥有备份MyISAM和ARCHIVE表

3、启用二进制日志进行增量备份
进行增量备份，需要刷新二进制日志

4、第三方工具备份
免费的MySQL热备份软件Percona XtraBackup

五、MySQL 完全备份

是对整个数据库、数据库结构和文件结构的备份
保存的是备份完成时刻的数据库
是差异备份与增量备份的基础

5.1 优点

备份与恢复操作简单方便

5.2 缺点

数据存在大量的重复
占用大量的备份空间
备份与恢复时间长

5.3 数据库完全备份分类

5.3.1 物理冷备份与恢复

关闭MySQL数据库
使用tar命令直接打包数据库文件夹
直接替换现有MySQL目录即可

5.3.2 mysqldump备份与恢复

MySQL自带的备份工具，可方便实现对MySQL的备份
可以将指定的库、表导出为SQL脚本
使用命令mysql导入备份的数据

六、MySQL完全备份与恢复

use xyw;
create table if not exists info1 (
id int(4) not null auto_increment,
name varchar(10) not null,
sex char(10) not null,
hobby varchar(50),
primary key (id));
insert into info1 values(1,'user1','male','running');
insert into info1 values(2,'user2','female','singing');

6.1 MySQL 完全备份

InnoDB存储引擎的数据库在磁盘上存储成三个文件：db.opt (表属性文件)、表名. frm(表结构文件)、表名.ibd (表数据文件)。

1、物理冷备份与恢复

systemctl stop mysqld
yum -y install xz    (一种压缩工具，详单与gzip，bz2)
#压缩备份
tar Jcvf /opt/mysql_all_$(date +%F).tar.xz /usr/local/mysql/data/
#解压恢复
tar Jxvf /opt/mysql_all_2020-02-09.tar.xz -C /usr/local/mysql/data

2、 mysqldump 备份与恢复
（1）完全备份一个或多个完整的库(包括其中所有的表)

mysqldump -u root -p[密码] --databases 库名1 [库名2] ... > /备份路径/备份文件名.sql     #导出的就是数据库脚本文件
例:
mysqldump -u root -p --databases xyw > /opt/xyw.sql
mysqldump -u root -p --databases mysql xyw > /opt/mysql-xyw.sql

(2)完全备份MySQL服务器中所有的库

mysqldump -u root -p[密码] --all-databases > /备份路径/备份文件名.sql
例:
mysqldump -u root -p --all-databases > /opt/all.sql

(3)完全备份指定库中的部分表

mysqldump -u root -p[密码]库名[表名1] [表名2] ... > /备份路径/备份文件名.sql
例:
mysqldump -u root -p [-d] xyw abc info > /opt/abc_info.sql
#使用“-d”选项，说明只保存数据库的表结构
#不使用“-d”选项，说明表数据也进行备份

(4)查看备份文件

grep -v "^--" /opt/abc_info.sql | grep -v "^/" | grep -v "^$"

6.2 MySQL 完全备份恢复

systemctl start mysqld

(1)恢复数据库

mysql -u root -p -e 'drop database xyw;'
#“-e”选项，用于指定连接MySQL后执行的命令，命令执行完后自动退出
mysql -u root -p -e ' SHOW DATABASES;'

mysql -u root -p < /opt/xyw.sql
mysql -u root -p -e 'SHOW DATABASES;'

(2)恢复数据表
当备份文件中只包含表的备份，而不包含创建的库的语句时，执行导入操作时必须指定库名，且目标库必须存在。

mysqldump -u root -pabc123 xyw abc info > /opt/abc_info.sql

mysql -u root -p -e 'drop table xyw.abc;'
mysql -u root -p -e 'show tables from xyw;'

mysql -u root -p xyw < /opt/abc_info.sql
mysql -u root -p -e 'show tables from xyw;'

七、MySQL 增量备份与恢复

7.1 MySQL 增量备份

7.1.1 开启二进制日志功能

vim /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog_format = MIXED    #可选，指定二进制日志(binlog)的记录格式为MIXED
server-id = 1

没听到#二进制日志(binlog)有3种不同的记录格式: STATEMENT (基于SQL语句)、ROW(基于行)、MIXED(混合模式)，默认格式是STATEMENT

systemctl start mysqld
ls -l /usr/local/mysql/data/mysql-bin.*

7.1.2 可每周对数据库或表进行完全备份

mysqldump -u root -p xyw info > /opt/xyw_info_$(date +%F).sql
mysqldump -u root -p --all-databases xyw > /opt/xyw_$(date +%F).sql

7.1.3 可每天进行增量备份操作，生成新的二进制日志文件(例如mysql-bin.000002)

mysqladmin -u root -p flush-logs

7.1.4 插入新数据，以模拟数据的增加或变更

use xyw;
insert into info1 values(3,'user3','male','game');
insert into info1 values(4,'user4','female','reading');

7.1.5 再次生成新的二进制日志文件(例如mysql -bin.000003)

mysqladmin -u root -p flush-logs
#之前的步骤4的数据库操作会保存到mysql-bin.00002文件中，之后数据库数据再发生变化则保存在mysq1--bin.00003文件中

7.1.6 查看二进制日志文件的内容

cp /usr/local/mysql/data/mysql-bin.000002 /opt/
mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002
#--base64-output=decode-rows：使用64位编码机制去解码并按行读取
#-v：显示详细内容

7.2 MySQL增量恢复

7.2.1 一般恢复

（1）模拟丢失更改的数据的恢复步骤

use xyw;
delete from info where id=3;
delete from info where id=4;

mysqlbinlog --no-defaults /opt/mysql-bin.000011 | mysql -u root -p

(2)模拟丢失所有数据的恢复步骤

use xyw;
drop table info1;

mysql -u root -p xyw < /opt/xyw_2021-02-10.sql
mysqlbinlog --no-defaults /opt/mysql-bin.000002 | mysql -u root -p

7.2.2 断点恢复

mysqlbinlog --no-defaults --base64-output=decode-rows -v /opt/mysql-bin.000002

例：
# at 302

#201122 16:41:16
插入了"user3"的用户数据
# at 623
#201122 16:41:24
插入了"user4"的用户数据

（1）基于位置恢复

#仅恢复到操作ID为“623"之前的数据，即不恢复“user4"的数据
mysqlbinlog --no-defaults --stop-position='623' /opt/mysql-bin.000002 | mysql -uroot -p
#仅恢复"user4"的数据，跳过"user3"的数据恢复
mysqlbinlog --no-defaults --start-position='623' /opt/mysql-bin.000002 | mysql -uroot -p

（2）基于时间点恢复

#仅恢复到16:41:24 之前的数据，即不恢复"user4"的数据
mysqlbinlog --no-defaults --stop-datetime='2020-11-22 16:41:24' /opt/mysql-bin.000002 | mysql -uroot -p
#仅恢复"user4"的数据，跳过"user3"的数据恢复
mysqlbinlog --no-defaults--start-datetime='2020-11-22 16:41:24' /opt/mysql-bin.000002 | mysql -uroot -p

如果恢复某条SQL语之前的所有数据，就stop在这个语句的位置节点或者时间点
如果恢复某条SQL语句以及之后的所有数据，就从这个语句的位置节点或者时间点start|