Mysql 备份恢复 mysqldump与xtrabackup备份

1.1 备份的原因

备份是数据安全的最后一道防线,对于任何数据丢失的场景,备份虽然不一定能恢复百分之百的数据 (取决于备份周期),但至少能将损失降到最低。衡量备份恢复有两个重要的指标:恢复点目标(RPO) 和恢复时间目标(RTO),前者重点关注能恢复到什么程度,而后者则重点关注恢复需要多长时间。

1.1.1 备份的目的

做灾难恢复:对损坏的数据进行恢复和还原

需求改变:因需求改变而需要把数据还原到改变以前

测试:测试新功能是否可用

1.1.2 备份中需要考虑的问题

可以容忍丢失多长时间的数据;

恢复数据要在多长时间内完;

恢复的时候是否需要持续提供服务;

恢复的对象,是整个库,多个表,还是单个库,单个表。

1.1.3 备份的类型

热备份:

这些动态备份在读取或修改数据的过程中进行,很少中断或者不中断传输或处理数据的功能。使用热备份时,系统仍可供读取和修改数据的操作访问。

冷备份:

这些备份在用户不能访问数据时进行,因此无法读取或修改数据。这些脱机备份会阻止执行任何使用数据的活动。这些类型的备份不会干扰正常运行的系统的性能。但是,对于某些应用程序,会无法接受必须在一段较长的时间里锁定或完全阻止用户访问数据。

温备份:

这些备份在读取数据时进行,但在多数情况下,在进行备份时不能修改数据本身。这种中途备份类型的优点是不必完全锁定最终用户。但是,其不足之处在于无法在进行备份时修改数据集,这可能使这种类型的备份不适用于某些应用程序。在备份过程中无法修改数据可能产生性能问题。

1.2 备份的方式

1.2.1 冷备份

最简单的备份方式就是,关闭 MySQL 服务器,然后将 data 目录下面的所有文件进行拷贝保存,需要恢复时,则将目录拷贝到需要恢复的机器即可。这种方式确实方便,但是在生产环境中基本没什么作用。因为所有的机器都是要提供服务的,即使是 Slave 有时候也需要提供只读服务,所以关闭 MySQL 停服备份是不现实的。与冷备份相对应的一个概念是热备份,所谓热备份是在不影响 MySQL 对外服务的情况下,进行备份。

     冷备份及停止业务进行备份。

1.2.2 快照备份

首先要介绍的热备份是快照备份,快照备份是指通过文件系统支持的快照功能对数据库进行备份。备份的原理是将所有的数据库文件放在同一分区中,然后对该分区执行快照工作,对于 Linux 而言,需要通过 LVM(Logical Volumn Manager)来实现。LVM 使用写时复制 (copy-on-write) 技术来创建快照,例如,对整个卷的某个瞬间的逻辑副本,类似于数据库中的 innodb 存储引擎的 MVCC,只不过 LVM 的快照在文件系统层面,而 MVCC 在数据库层面,而且仅支持 innodb 存储引擎。

LVM 有一个快照预留区域,如果原始卷数据有变化时,LVM 保证在任何变更写入之前,会复制受影响块到快照预留区域。简单来说,快照区域内保留了快照点开始时的一致的所有 old 数据。对于更新很少的数据库,快照也会非常小。

对于 MySQL 而言,为了使用快照备份,需要将数据文件,日志文件都放在一个逻辑卷中,然后对该卷快照备份即可。由于快照备份,只能本地,因此,如果本地的磁盘损坏,则快照也就损坏了。快照备份更偏向于对误操作防范,可以将数据库迅速恢复到快照产生的时间点,然后结合二进制日志可以恢复到指定的时间点。基本原理如下图:

1.2.3 逻辑备份(文本表示:SQL 语句)

冷备份和快照备份由于其弊端在生产环境中很少使用,使用更多是 MySQL 自带的逻辑备份和物理备份工具,这节主要讲逻辑备份,MySQL 官方提供了 Mysqldump 逻辑备份工具,虽然已经足够好,但存在单线程备份慢的问题。在社区提供了更优秀的逻辑备份工具 mydumper,它的优势主要体现在多线程备份,备份速度更快。

1.2.4 其他常用的备份方式

物理备份(数据文件的二进制副本)

全量备份概念

全量数据就是数据库中所有的数据(或某一个库的全部数据);

全量备份就是把数据库中所有的数据进行备份。

mysqldump 会取得一个时刻的一致性数据.

增量备份(刷新二进制日志)

增量数据就是指上一次全量备份数据之后到下一次全备之前数据库所更新的数据

对于 mysqldump,binlog 就是增量数据.

1.2.5 备份工具的介绍

1、mysqldump: mysql 原生自带很好用的逻辑备份工具

2、mysqlbinlog: 实现 binlog 备份的原生态命令

3、xtrabackup: precona 公司开发的性能很高的物理备份工具

1.3 mysqldump 备份介绍

备份的基本流程如下

1.调用FTWRL(flush tables with read lock),全局禁止读写
2.开启快照读,获取此时的快照(仅对innodb表起作用)
3.备份非innodb表数据(*.frm,*.myi,*.myd等)
4.非innodb表备份完毕后,释放FTWRL锁
5.逐一备份innodb表数据
6.备份完成。

整个过程,可以参考一张图,但他的这张图只考虑 innodb 表的备份情况,实际上在 unlock tables 执行完毕之前,非 innodb 表已经备份完毕,后面的 t1,t2 和 t3 实质都是 innodb 表,而且 5.6 的 mysqldump 利用保存点机制,每备份完一个表就将一个表上的 MDL 锁释放,避免对一张表锁更长的时间。

1.3.1 mysqldump 备份流程

1.3.2 常用的备份参数

mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/all_$(date +%F).sql.gz

1.3.3 -A 参数

备份全库,备份语句

mysqldump -uroot -p123 -A  > /backup/full.sql

1.3.4 -B 参数

备某一个数据库下的所有表

增加建库(create)及 “use 库” 的语句,可以直接接多个库名,同时备份多个库 * -B 库 1 库 2

mysqldump -uroot -p123 -B world  > /backup/worldb.sql

备份语句:

create database if not 存在use db1drop tablecreate tableinsert into

不加 - B 备份数据库时,只是备份数据库下的所有表,不会创建数据库

     只能备份单独的数据库(一般用于备份单表时使用)
mysqldump -uroot -p123 world  > /backup/world.sql
     备份单表
mysqldump -uroot -p123 world  city  > /backup/world_city.sql
     对于单表备份的粒度,再恢复数据库数据时速度最快。备份多个表
mysqldump 库1 表1 表2 表3 >库1.sql
mysqldump 库2 表1 表2 表3 >库2.sql

分库备份: for 循环

mysqldump -uroot -p'mysql123' -B mysql ...
mysqldump -uroot -p'mysql123' -B mysql_utf8 ...
mysqldump -uroot -p'mysql123' -B mysql ...
......

分库备份

for name in `mysql -e "show databases;"|sed 1d`
domysqldump -uroot -p'mysql123' -B $name
done

1.3.5 --master-data={1|2} 参数

告诉你备份后时刻的 binlog 位置

2 为注释 1 为非注释,要执行的 (主从复制)

[root@db02 logs]# sed -n '22p' /opt/t.sql
CHANGE MASTER TO MASTER_LOG_FILE='clsn-bin.000005', MASTER_LOG_POS=344;
[root@db02 logs]# mysqldump -B --master-data=2 clsn >/opt/t.sql

1.3.6 --single-transaction 参数

对 innodb 引擎进行热备

     只支持 innodb 引擎使用该参数会单独开启一个事务进行备份,利用事务的快照技术实现。

基于事务引擎: 不用锁表就可以获得一致性的备份.

体现了 ACID 四大特性中的隔离性,生产中 99% 使用 innodb 事务引擎.

     虽然支持热备,并不意味着你可以再任意时间点进行备份,特别是业务繁忙期,不要做备份策略,一般夜里进行备份。

innodb 引擎的备份命令如下:

mysqldump -A -B -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz

1.3.7 --flush-logs 参数 /-F

刷新 binlog 日志

每天晚上 0 点备份数据库

mysqldump -A -B -F >/opt/$(date +%F).sql
[root@db02 ~]# ll /application/mysql/logs/
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000001
-rw-rw---- 1 mysql mysql 168 Jun 21 12:06 clsn-bin.000002
-rw-rw---- 1 mysql mysql 210 Jun 21 12:07 clsn-bin.index
     提示: 每个库都会刷新一次.        

1.3.8 压缩备份

压缩备份命令:

mysqldump -B --master-data=2 clsn|gzip >/opt/t.sql.gz

解压:

zcat t.sql.gz >t1.sql
gzip -d t.sql.gz #删压缩包
gunzip alL_2017-12-22.sql.gz

一个完整的备份语句

     innodb 引擎的备份命令如下:
mysqldump -A -R --triggers --master-data=2 --single-transaction |gzip >/opt/all.sql.gz
     适合多引擎混合(例如:myisam 与 innodb 混合)的备份命令如下:
mysqldump -A -R --triggers --master-data=2 |gzip   >/opt/alL_$(date +%F).sql.gz

1.3.9 使用 Mysqldump 备份进行恢复实践

备份 innodb 引擎数据库 clsn 并压缩:

mysqldump -B -R --triggers --master-data=2 clsn|gzip >/opt/all_$(date +%F).sql.gz

人为删除 clsn 数据库:

[root@db02 opt]# mysql -e “drop database clsn;”
[root@db02 opt]# mysql -e “show databases;”

恢复数据库:

使用gzip解压 gzip -d xxx.gz
shell> mysql </opt/all_2017-1222.sql
或
mysql> set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)
mysql> source /backup/alL_2017-12-22.sql

验证数据:

[root@db02 opt]#  mysql -e “use clsn;select * from test;”

1.4 【模拟】增量恢复企业案例

1.4.1 前提条件:

1. 具备全量备份(mysqldump)。

2. 除全量备份以外,还有全量备份之后产生的的所有 binlog 增量日志。

1.4.2 环境准备

(1) 准备环境:

drop database clsn;
CREATE DATABASE clsn;
USE `clsn`;
CREATE TABLE `test` (`id` int(4) NOT NULL AUTO_INCREMENT,`name` char(20) NOT NULL,PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=7 DEFAULT CHARSET=utf8;
INSERT INTO `test` VALUES (1,'clsn'),(2,'znix'),(3,'inca'),(4,'zuma'),(5,'kaka');

查看创建好的数据

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

(2) 模拟环境:

mkdir /data/backup -p
date -s "2017/12/22"

全备份:

mysqldump -B --master-data=2 --single-transaction clsn|gzip>/data/backup/clsn_$(date +%F).sql.gz

模拟增量:

mysql -e "use clsn;insert into test values(6,'haha');"
mysql -e "use clsn;insert into test values(7,'hehe');"
mysql -e "select * from clsn.test;"

(3) 模拟误删数据:

date -s "2017/12/22 11:40"
mysql  -e "drop database clsn;show databases;"

出现问题 10 分钟后, 发现问题, 删除了数据库了.

1.4.3 恢复数据准备

(1) 采用 iptables 防火墙屏蔽所有应用程序的写入。

[root@clsn ~]# iptables -I INPUT -p tcp --dport 3306 ! -s 172.16.1.51 -j DROP 
#<==非172.16.1.51禁止访问数据库3306端口。
     或采用 mysql 配置参数,但是需要重启数据库
--skip-networking
     复制二进制日志文件
cp -a /application/mysql/logs/clsn-bin.* /data/backup/
     截取日志
zcat clsn_2017-12-22.sql.gz >clsn_2017-12-22.sql
sed -n '22p' clsn_2017-12-22.sql
mysqlbinlog -d clsn --start-position=339 clsn-bin.000008 -r bin.sql

需要恢复的日志:

1.clsn_2017-12-22.sql
2.bin.sql
grep -i drop bin.sql 
sed -i '/^drop.*/d' bin.sql

1.4.4 进行数据恢复

恢复数据

[root@db02 backup]# mysql <clsn_2017-12-22.sql
[root@db02 backup]# mysql -e "show databases;"
+--------------------+
| Database           |
+--------------------+
| information_schema |
| mysql              |
| clsn               |
| znix               |
| performance_schema |
+--------------------+

查看数据库

mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
+----+------+
5 rows in set (0.00 sec)

恢复增量数据:

[root@db02 backup]# mysql clsn <bin.sql
mysql> select * from test;
+----+------+
| id | name |
+----+------+
|  1 | clsn |
|  2 | znix |
|  3 | inca |
|  4 | zuma |
|  5 | kaka |
|  6 | haha |
|  7 | hehe |
+----+------+
7 rows in set (0.00 sec)

恢复完毕。

调整 iptables 允许用户访问.

1.4.5 多个 binlog 问题

mysqlbinlog -d clsn --start-position=339 clsn-bin.000009 clsn-bin.0000010 -r bin1.sqlmysql clsn <bin1.sql

1.5 mysql 数据库实际生产惨案

1.5.1 发生背景

1、mysql 服务器会在每天夜里 0 点全量备份

2、某个开发人员某个阳光明媚的上午,喝着茶,优雅的误删除了 clsn_oss(核心)数据库。

3、导致公司业务异常停止,无法正常提供服务。

1.5.2 怎么解决的

1、当前系统进行评估。

什么损坏了,有没有备份,

恢复数据时间(误操作的数据有关,备份、恢复策略),

恢复业务时间

     2、恢复方案(1)恢复 0 点的全备,到测试库(2)恢复 0 点开始到故障时间点的 binlog,到测试库(3)将误操作的数据导出,恢复到生产库。(4)检验数据是不是完整的(开发测试环境测试恢复成功数据库)(5)检验完成之后,重新开启生产业务

1.5.3 项目总结

     1、经过我的恢复处理,30 分钟整体业务重新提供服务(速度慢。。。)2、在以后的工作中制定严格的开发规范,开发,开发。3、将来制定更好的架构方案。

1.6 备份工具的选择

数据量范围:30G --> TB 级别

1.6.1 数据量大,变换量小

    (1)全备分花费的成本较高,mysqldump+binlog 实现全备 + 增量备份,缺点是恢复成本比备份时间成本还高(2)xtrabackup:可以较长时间做一次全备,其余时间都是增量,全量备份空间成本很高如果数据量在 30G-->TB 级别的话,更推荐使用 xtrabackup 工具。

1.6.2 数据量小,变化量大

只需要考虑时间成本。

只用全备备份即可,两种工具选择都可以。恢复成本上 xtrabackup 小一些

1.6.3 数据量、变化量都大

时间成本和空间成本都要考虑了。

数据量达到 PB 或更高时(facebook),mysqldump 可能成为首选,占用空间小,但技术成本高。需要对 mysqldump 进行二次开发(大数据量公司首选)。

1.7 xtrabackup 备份软件

percona 公司官网 https://www.percona.com/

1.7.1 Xtrabackup 介绍

Xtrabackup 是由 percona 开源的免费数据库热备份软件,它能对 InnoDB 数据库和 XtraDB 存储引擎的数据库非阻塞地备份(对于 MyISAM 的备份同样需要加表锁);mysqldump 备份方式是采用的逻辑备份,其最大的缺陷是备份和恢复速度较慢,如果数据库大于 50G,mysqldump 备份就不太适合。

Xtrabackup 安装完成后有 4 个可执行文件,其中 2 个比较重要的备份工具是 innobackupex**、xtrabackup**

1)xtrabackup 是专门用来备份InnoDB表的,和mysql server没有交互;
2)innobackupex 是一个封装xtrabackup的Perl脚本,支持同时备份innodb和myisam,但在对myisam备份时需要加一个全局的读锁。
3)xbcrypt 加密解密备份工具
4)xbstream 流传打包传输工具,类似tar
5)物理备份工具,在同级数据量基础上,都要比逻辑备份性能好的多,特别是在数据量较大的时候,体现的更加明显。

1.7.1 Xtrabackup 优点

1)备份速度快,物理备份可靠

2)备份过程不会打断正在执行的事务(无需锁表)

3)能够基于压缩等功能节约磁盘空间和流量

4)自动备份校验

5)还原速度快

6)可以流传将备份传输到另外一台机器上

7)在不增加服务器负载的情况备份数据

8)物理备份工具,在同级数据量基础上,都要比逻辑备份性能要好的多。几十 G 到不超过 TB 级别的条件下。但在同数据量级别,物理备份恢复数据上有一定优势。

1.7.2 备份原理

拷贝数据文件、拷贝数据页

对于 innodb 表可以实现热备。

(1)在数据库还有修改操作的时刻,直接将数据文件备走,此时,备份走的数据对于当前mysql来讲是不一致的。(2)将备份过程中的redo和undo一并备走。(3)为了恢复的时候,只要保证备份出来的数据页lsn能和redo lsn匹配,将来恢复的就是一致的数据。redo应用和undo应用。

对于 myisam 表实现自动锁表拷贝文件。

备份开始时首先会开启一个后台检测进程,实时检测 mysql redo 的变化,一旦发现有新的日志写入,立刻将日志记入后台日志文件 xtrabackup_log 中,之后复制 innodb 的数据文件一系统表空间文件 ibdatax,复制结束后,将执行 flush tables with readlock, 然后复制. frm MYI MYD 等文件,最后执行 unlock tables, 最终停止 xtrabackup_log

1.7.3 xtrabackup 的安装

安装依赖关系

wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-6.repo
yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL
     下载软件包,并安装软件
wget https://www.percona.com/downloads/XtraBackup/Percona-XtraBackup-2.4.4/binary/redhat/6/x86_64/percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm
yum -y install percona-xtrabackup-24-2.4.4-1.el6.x86_64.rpm

1.8 xtrabackup 实践操作

1.8.1 全量备份与恢复

这一阶段会启动 xtrabackup 内嵌的 innodb 实例,回放 xtrabackup 日志 xtrabackup_log,将提交的事务信息变更应用到 innodb 数据 / 表空间,同时回滚未提交的事务 (这一过程类似 innodb 的实例恢复)。恢复过程如下图:

备份

创建备份目录

mkdir  /backup -p
     进行第一次全量备份
innobackupex --defaults-file=/etc/my.cnf --user=root --password=123 --socket=/application/mysql/tmp/mysql.sock --no-timestamp /backup/xfull

恢复前准备

恢复数据前的准备 (合并 xtabackup_log_file 和备份的物理文件)

innobackupex --apply-log --use-memory=32M /backup/xfull/
     查看合并后的 checkpoints 其中的类型变为 full-prepared 即为可恢复。
[root@db02 full]# cat xtrabackup_checkpoints 
backup_type = full-prepared
from_lsn = 0
to_lsn = 4114824
last_lsn = 4114824
compact = 0
recover_binlog_info = 0

破坏数据库数据文件

[root@db02 full]# cd /application/mysql/data/
[root@db02 data]# ls
auto.cnf  db02.pid  ibdata2      mysql             mysql-bin.index     world
clsn      haha      ib_logfile0  mysql-bin.000001  oldboy
db02.err  ibdata1   ib_logfile1  mysql-bin.000002  performance_schema
[root@db02 data]# \rm -rf ./* 
[root@db02 data]# ls
[root@db02 data]# killall mysql

恢复方法

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
             说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。
[root@db02 data]# cd /application/mysql/data/
[root@db02 data]# ls
clsn     ibdata2      ibtmp1  performance_schema            xtrabackup_info
haha     ib_logfile0  mysql   world
ibdata1  ib_logfile1  oldboy  xtrabackup_binlog_pos_innodb
     启动是数据库
[root@db02 data]#  /etc/init.d/mysqld start

1.8.2 增量备份与恢复

innobackupex 增量备份过程中的 “增量” 处理,其实主要是相对 innodb 而言,对 myisam 和其他存储引擎而言,它仍然是全拷贝 (全备份)

“增量” 备份的过程主要是通过拷贝 innodb 中有变更的 “页”(这些变更的数据页指的是 “页” 的 LSN 大于 xtrabackup_checkpoints 中给定的 LSN)。增量备份是基于全备的,第一次增备的数据必须要基于上一次的全备,之后的每次增备都是基于上一次的增备,最终达到一致性的增备。增量备份的过程如下,和全备的过程很类似,区别仅在第 2 步。

增量备份从哪增量?

基于上一次的备份进行增量。

redo 默认情况下是一组两个文件,并且有固定大小。其使用的文件是一种轮询使用方式,他不是永久的,文件随时可能被覆盖。

注意:千万不要在业务繁忙时做备份。

备份什么内容

1、可以使用 binlog 作为增量

2、自带的增量备份,基于上次备份后的变化的数据页,还要备份在备份过程中的 undo、redo 变化

怎么备份

     _1__、先进行第一次全备_
innobackupex  --user=root --password=123 --no-timestamp /bakcup/xfull
     对原库做了修改,修改了小红那行然后 commit。

2_、再进行增量备份_

innobackupex --user=root --password=123  --incremental --no-timestamp --incremental-basedir=/backup/xfull/  /backup/xinc1

怎么恢复

1、先应用全备日志(–apply-log,暂时不需要做回滚操作 --redo-only)

innobackupex --apply-log --redo-only /backup/xfull/     

2、合并增量到全备中(一致性的合并)

innobackupex --apply-log --incremental-dir=/backup/xinc1 /backup/xfull/
innobackupex --apply-log /backup/xfull

3、合并完成进行恢复

方法一: 直接将备份文件复制回来

cp -a /backup/full/ /application/mysql/data
chown -R mysql.mysql /application/mysql/data

方法二: 使用 innobackupex 命令进行恢复 **(**推荐)

[root@db02 mysql]# innobackupex --copy-back /backup/xfull
[root@db02 mysql]# chown -R mysql.mysql /application/mysql/
            说明:无论使用那种恢复方法都要恢复后需改属组属主,保持与程序一致。

1.8.3 数据库备份策略

每周的周日进行一次全备;周一到周六每天做上一天增量,每周轮询一次。

xfull       --apply-log --redo-only   保证last-lsn=周一增量开始lsn
xinc1        合并周一的增量到全备,并apply-log --redo-only  保证last-lsn=周二增量开始lsn
xinc2        合并周二的增量到全备,并apply-log --redo-only  保证last-lsn=周三增量开始lsn
xinc3       合并周三的增量到全备,并apply-log --redo-only  保证last-lsn=周四增量开始lsn
xinc4       合并周四的增量到全备,并apply-log --redo-only  保证last-lsn=周五增量开始lsn
xinc5       合并周五的增量到全备,并apply-log --redo-only  保证last-lsn=周六增量开始lsn
xinc6        合并周六的增量到全备,--apply-log  准备恢复即可

1.8.4 真实生产实战案例分析

**背景:**某物流公司网站核心系统,数据量是 220G,每日更新量 100M-200M

备份方案: xtrabackup 全备 + 增量

备份策略(crontab**)**:

1、周六 晚上 0 点全备

0 0 * * 6 zjs_full.sh — 这行可以没有

2、周一至周五、周日 是增量,基于上一天增量

0 1 * * 0-5 zjs_inc.sh— 这行可以没有

故障场景:

周三的时候,下午两点,开发人员误删除了一张表 zjs_base,大约 10G。

项目职责:

1) 指定恢复方案、利用现有备份;

              2)  恢复误删除数据;3)  制定运维、开发流程规范。

恢复流程:

	a)    准备上周六全备。b)    合并周日、周一 、周二增量。c)    在测试库恢复以上数据,数据的目前状态应该周三凌晨1:00d)    需要恢复的数据状态是,下午2点钟左右e)    从1点开始的binlog恢复到删除之前转台f)    导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。g)    启动应用连接数据库。

总结:经过 30 分钟将误删表恢复了。服务总共停止 40 分钟。

1.8.5 故障恢复小结

恢复思路:

              1、首先确保断开所有应用,保证数据的安全。2、检查用于恢复的备份存在吗。3、设计快速、安全恢复简单方案,制定突发问题解决办法。

具体恢复流程:

1、准备上周六全备,并--apply-log --redo-only2、合并增量,周日、周一 、周二  --apply-log --redo-only 周三 --apply-log3、在测试库恢复以上数据,数据的目前状态应该周三凌晨1:004、需要恢复的数据状态是,下午2点钟左右,删除zjs_base之前的数据状态从1点开始的binlog恢复到删除之前的那个events的position。5、导出删除的表zjs_base,恢复到生产库,验证数据可用性、完整性。6、启动应用连接数据库。
     **确定恢复所需时间**
恢复窗口要多长?----> 预计3小时和你恢复+验证+意外情况有关。
业务停多长时间?----> 6小时?或者更多?更少?

1.8.6 【模拟】生产事故恢复

数据创建阶段

1、创建备份需要的目录

mkdir full  inc1 inc2

2、周日全备

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

3、模拟数据变化

use oldboy
create table test(id int,name char(20),age int);
insert into test values(8,'outman',99);
insert into test values(9,'outgirl',100);
commit;

4、周一增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/full/ /backup/xbackup/inc1

5、模拟数据变化

use oldboy
insert into test values(8,'outman1',119);
insert into test values(9,'outgirl1',120);
commit;

6、周二的增量备份

innobackupex --user=root --password=123 --incremental --no-timestamp --incremental-basedir=/backup/xbackup/inc1 /backup/xbackup/inc2

7. 再插入新的行操作

use oldboy
insert into test values(10,'outman2',19);
insert into test values(11,'outgirl2',10);
commit;

模拟误操作事故

模拟场景,周二下午 2 点误删除 test 表

use oldboy;drop table test;

准备恢复数据

1. 准备 xtrabackup 备份,合并备份

innobackupex --apply-log --redo-only /backup/xbackup/full
innobackupex --apply-log --redo-only --incremental-dir=/backup/xbackup/inc1 /backup/xbackup/full
innobackupex --apply-log  --incremental-dir=/backup/xbackup/inc2 /backup/xbackup/full
innobackupex --apply-log /backup/xbackup/full

2.确认 binlog 起点,准备截取 binlog。

cd /backup/xbackup/inc2/cat xtrabackup_binlog_info mysql-bin.000001    1121

3. 截取到 drop 操作之前的 binlog

mysqlbinlog  --start-position=1121 /tmp/mysql-bin.000003 找到drop之前的event和postion号做日志截取,假如 1437mysqlbinlog  --start-position=1121 --stop-position=1437    /tmp/mysql-bin.000003 >/tmp/incbinlog.sql

4.关闭数据库、备份二进制日志

/etc/init.d/mysqld stop
cd /application/mysql/data/
cp mysql-bin.000001 /tmp
  1. 删除 MySQL 所有数据
cd /application/mysql/data/
rm -rf *

恢复数据

1.将全量备份的数据恢复到数据目录下

innobackupex --copy-back /backup/xbackup/full/
chown -R mysql.mysql /application/mysql/data/
/etc/init.d/mysqld start

2. 恢复 binlog 记录

set sql_log_bin=0
source /tmp/incbinlog.sql

1.8.7 xtarbackup 导出

(1)“导出” 表 导出表是在备份的 prepare 阶段进行的,因此,一旦完全备份完成,就可以在 prepare 过程中通过 --export 选项将某表导出了:

innobackupex --apply-log --export /path/to/backup

此命令会为每个 innodb 表的表空间创建一个以. exp 结尾的文件,这些以. exp 结尾的文件则可以用于导入至其它服务器。

(2)“导入” 表 要在 mysql 服务器上导入来自于其它服务器的某 innodb 表,需要先在当前服务器上创建一个跟原表表结构一致的表,而后才能实现将表导入:

mysql> CREATE TABLE mytable (...)  ENGINE=InnoDB;

然后将此表的表空间删除:

mysql> ALTER TABLE mydatabase.mytable  DISCARD TABLESPACE;

接下来,将来自于 “导出” 表的服务器的 mytable 表的 mytable.ibd 和 mytable.exp 文件复制到当前服务器的数据目录,然后使用如下命令将其“导入”:(记得改权限)

mysql> ALTER TABLE mydatabase.mytable  IMPORT TABLESPACE;

示例:

innobackupex --user=root --password=123 --no-timestamp /backup/xbackup/full/

进入到全备的数据库目录下

[root@db02 haha]# ls
db.opt  PENALTIES.frm  PENALTIES.ibd  PLAYERS.frm  PLAYERS.ibd
[root@db02 haha]# pwd
/backup/xbackup/full/haha
     导出表
[root@db02 haha]# innobackupex --apply-log --export /backup/xbackup/full/  
[root@db02 haha]# ls
db.opt         PENALTIES.exp  PENALTIES.ibd  PLAYERS.exp  PLAYERS.ibd
PENALTIES.cfg  PENALTIES.frm  PLAYERS.cfg    PLAYERS.frm
     创建出同结构表
CREATE TABLE `PLAYERS` (`PLAYERNO` int(11) NOT NULL,`NAME` char(15) NOT NULL,`INITIALS` char(3) NOT NULL,`BIRTH_DATE` date DEFAULT NULL,`SEX` char(1) NOT NULL,`JOINED` smallint(6) NOT NULL,`STREET` varchar(30) NOT NULL,`HOUSENO` char(4) DEFAULT NULL,`POSTCODE` char(6) DEFAULT NULL,`TOWN` varchar(30) NOT NULL,`PHONENO` char(13) DEFAULT NULL,`LEAGUENO` char(4) DEFAULT NULL,PRIMARY KEY (`PLAYERNO`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8
     复制恢复数据到库下
[root@db02 haha]# cp  PLAYERS.ibd  PLAYERS.exp  /application/mysql/data/backup/
cp: overwrite `/application/mysql/data/backup/PLAYERS.ibd'? y
     恢复数据
mysql> ALTER TABLE backup.PLAYERS  DISCARD TABLESPACE;
Query OK, 0 rows affected (0.00 sec)

1.8.8 innobackupex 参数说明

参数

参数说明

--compress

该选项表示压缩 innodb 数据文件的备份。

--compress-threads   

该选项表示并行压缩 worker 线程的数量。

--compress-chunk-size

该选项表示每个压缩线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt            

该选项表示通过 ENCRYPTION_ALGORITHM 的算法加密 innodb 数据文件的备份,目前支持的算法有 ASE128,AES192,AES256。

--encrypt-threads    

该选项表示并行加密的 worker 线程数量。

--encrypt-chunk-size 

该选项表示每个加密线程 worker buffer 的大小,单位是字节,默认是 64K。

--encrypt-key        

该选项使用合适长度加密 key,因为会记录到命令行,所以不推荐使用。

--encryption-key-file

该选项表示文件必须是一个简单二进制或者文本文件,加密 key 可通过以下命令行命令生成:openssl rand -base64 24。

--include            

该选项表示使用正则表达式匹配表的名字 [db.tb],要求为其指定匹配要备份的表的完整名称,即 databasename.tablename。

--user               

该选项表示备份账号。

--password           

该选项表示备份的密码。

--port               

该选项表示备份数据库的端口。

--host               

该选项表示备份数据库的地址。

--databases

该选项接受的参数为数据名,如果要指定多个数据库,彼此间需要以空格隔开;如:"xtra_test dba_test",同时,在指定某数据库时,也可以只指定其中的某张表。如:"mydatabase.mytable"。该选项对 innodb 引擎表无效,还是会备份所有 innodb 表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。

--tables-file     

该选项表示指定含有表列表的文件,格式为 database.table,该选项直接传给 --tables-file。

--socket          

该选项表示 mysql.sock 所在位置,以便备份进程登录 mysql。

--no-timestamp    

该选项可以表示不要创建一个时间戳目录来存储备份,指定到自己想要的备份文件夹。

--ibbackup        

该选项指定了使用哪个 xtrabackup 二进制程序。IBBACKUP-BINARY 是运行 percona xtrabackup 的命令。这个选项适用于 xtrbackup 二进制不在你是搜索和工作目录,如果指定了该选项,innoabackupex 自动决定用的二进制程序。

--slave-info      

该选项表示对 slave 进行备份的时候使用,打印出 master 的名字和 binlog pos,同样将这些信息以 change master 的命令写入 xtrabackup_slave_info 文件。可以通过基于这份备份启动一个从库。

--safe-slave-backup

该选项表示为保证一致性复制状态,这个选项停止 SQL 线程并且等到 show status 中的 slave_open_temp_tables 为 0 的时候开始备份,如果没有打开临时表,bakcup 会立刻开始,否则 SQL 线程启动或者关闭知道没有打开的临时表。如果 slave_open_temp_tables 在 --safe-slave-backup-timeount (默认 300 秒)秒之后不为 0,从库 sql 线程会在备份完成的时候重启。

--kill-long-queries-timeout

该选项表示从开始执行 FLUSH TABLES WITH READ LOCK 到 kill 掉阻塞它的这些查询之间等待的秒数。默认值为 0,不会 kill 任何查询,使用这个选项 xtrabackup 需要有 Process 和 super 权限。

--kill-long-query-type    

该选项表示 kill 的类型,默认是 all,可选 select。

--ftwrl-wait-threshold    

该选项表示检测到长查询,单位是秒,表示长查询的阈值。

--ftwrl-wait-query-type   

该选项表示获得全局锁之前允许那种查询完成,默认是 ALL,可选 update。

--galera-info             

该选项表示生成了包含创建备份时候本地节点状态的文件 xtrabackup_galera_info 文件,该选项只适用于备份 PXC。

--stream                  

该选项表示流式备份的格式,backup 完成之后以指定格式到 STDOUT,目前只支持 tar 和 xbstream。

--defaults-file           

该选项指定了从哪个文件读取 MySQL 配置,必须放在命令行第一个选项的位置。

--defaults-extra-file     

该选项指定了在标准 defaults-file 之前从哪个额外的文件读取 MySQL 配置,必须在命令行的第一个选项的位置。一般用于存备份用户的用户名和密码的配置文件。

----defaults-group         

该选项表示从配置文件读取的组,innobakcupex 多个实例部署时使用。

--no-lock

该选项表示关闭 FTWRL 的表锁,只有在所有表都是 Innodb 表并且不关心 backup 的 binlog pos 点,如果有任何 DDL 语句正在执行或者非 InnoDB 正在更新时(包括 mysql 库下的表),都不应该使用这个选项,后果是导致备份数据不一致,如果考虑备份因为获得锁失败,可以考虑 --safe-slave-backup 立刻停止复制线程。

--tmpdir

该选项表示指定 --stream 的时候,指定临时文件存在哪里,在 streaming 和拷贝到远程 server 之前,事务日志首先存在临时文件里。在使用参数 stream=tar 备份的时候,你的 xtrabackup_logfile 可能会临时放在 /tmp 目录下,如果你备份的时候并发写入较大的话 xtrabackup_logfile 可能会很大 (5G+),很可能会撑满你的 /tmp 目录,可以通过参数 --tmpdir 指定目录来解决这个问题。

--history              

该选项表示 percona server 的备份历史记录在 percona_schema.xtrabackup_history 表。

--incremental          

该选项表示创建一个增量备份,需要指定 --incremental-basedir。

--incremental-basedir  

该选项表示接受了一个字符串参数指定含有 full backup 的目录为增量备份的 base 目录,与 --incremental 同时使用。

--incremental-dir      

该选项表示增量备份的目录。

--incremental-force-scan

该选项表示创建一份增量备份时,强制扫描所有增量备份中的数据页。

--incremental-lsn   

该选项表示指定增量备份的 LSN,与 --incremental 选项一起使用。

--incremental-history-name

该选项表示存储在 PERCONA_SCHEMA.xtrabackup_history 基于增量备份的历史记录的名字。Percona Xtrabackup 搜索历史表查找最近(innodb_to_lsn)成功备份并且将 to_lsn 值作为增量备份启动出事 lsn. 与 innobackupex--incremental-history-uuid 互斥。如果没有检测到有效的 lsn,xtrabackup 会返回 error。

--incremental-history-uuid

该选项表示存储在 percona_schema.xtrabackup_history 基于增量备份的特定历史记录的 UUID。

--close-files            

该选项表示关闭不再访问的文件句柄,当 xtrabackup 打开表空间通常并不关闭文件句柄目的是正确的处理 DDL 操作。如果表空间数量巨大,这是一种可以关闭不再访问的文件句柄的方法。使用该选项有风险,会有产生不一致备份的可能。

--compact                

该选项表示创建一份没有辅助索引的紧凑的备份。

--throttle               

该选项表示每秒 IO 操作的次数,只作用于 bakcup 阶段有效。apply-log 和 --copy-back 不生效不要一起用。

1.9 参考文献

https://www.cnblogs.com/cchust/p/5452557.html
http://www.cnblogs.com/gomysql/p/3650645.html  xtrabackup 详解
https://www.percona.com/software/mysql-database/percona-xtrabackup
https://learn.percona.com/hubfs/Manuals/Percona_Xtra_Backup/Percona_XtraBackup_2.4/Percona-XtraBackup-2.4.9.pdf

MySQL mysqldump数据导出详解

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/331621.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

vue+elemntui 加减表单框功能样式

<el-form ref"form" :model"form" :rules"rules" label-width"80px"><el-form-item label"配置时间" prop"currentAllocationDate"><div v-for"(item,key) in timeList"><el-date…

实验一:通过路由器实现内外网互联

通过路由器实现内外网互联 一、实验拓扑 相关配置详见下图&#xff0c;内网区域为AR2以内设备&#xff0c;外网区域以AR1和PC1代替进行实验测试。 二、实验要求 通过路由器实现内外网互联&#xff1a; 1.各内网PC可自动获取ip地址&#xff1b; 2.各内网PC可ping通外网PC&…

认知架构 cognitive architecture

Assistants API&#xff1a;以开发人员为中心。 有状态的API&#xff1a;允许存储以前的消息、上传文件、访问内置工具&#xff08;代码解释器&#xff09;、通过函数调用控制其他工具。 认知架构应用的两个组件&#xff1a;&#xff08;1&#xff09;如何提供上下文给应用 &…

【DevOps】深入了解RabbitMQ:AMQP协议基础、消息队列工作原理和应用场景

目录 一、核心功能 二、优势 三、核心概念 四、工作原理 五、交换机类型 六、消息确认 七、持久性和可靠性 八、插件和扩展 九、集群和镜像队列 十、客户端库 十一、管理界面 十二、应用场景 RabbitMQ是一个基于AMQP协议的消息队列中间件&#xff0c;提供高可用、可…

C++ | Leetcode C++题解之第112题路径总和

题目&#xff1a; 题解&#xff1a; class Solution { public:bool hasPathSum(TreeNode *root, int sum) {if (root nullptr) {return false;}if (root->left nullptr && root->right nullptr) {return sum root->val;}return hasPathSum(root->left…

el-table 划入划出方法

<template><div><el-table :data"tableData" style"width: 100%" cell-mouse-enter"handleMouseEnter" cell-mouse-leave"handleMouseLeave"><el-table-column prop"ddd" label"日期2" widt…

【TB作品】stm32单片机读取DS2401程序

DS2401是由Analog Devices公司生产的一种硅序列号芯片&#xff0c;它提供了一个绝对唯一的64位ROM识别码&#xff0c;用于确保可追溯性。以下是对DS2401器件的分析&#xff1a; 特点和优势&#xff1a; 唯一性&#xff1a;每个DS2401芯片都有一个独一无二的64位注册码&#x…

【实际项目精选源码】ehr人力资源管理系统实现案例(java,vue)

一、项目介绍 一款全源码可二开&#xff0c;可基于云部署、私有部署的企业级数字化人力资源管理系统&#xff0c;涵盖了招聘、人事、考勤、绩效、社保、酬薪六大模块&#xff0c;解决了从人事招聘到酬薪计算的全周期人力资源管理&#xff0c;符合当下大中小型企业组织架构管理运…

List Control控件绑定变量

创建基于对话框的mfc项目 添加 List Control控件 右击控件&#xff0c;选择“添加变量” 在初始化对话框代码中增加一些代码 BOOL CMFCApplication3Dlg::OnInitDialog() { //...// TODO: 在此添加额外的初始化代码DWORD dwStyle m_programLangList.GetExtendedStyle(); …

用户态下屏蔽全局消息钩子 —— ClientLoadLibrary 指针覆盖

目录 前言 一、研究 SetWindowsHookEx 的机制 二、概念验证 三、运行效果分析 四、总结与展望 参考文献 原文出处链接&#xff1a;[https://blog.csdn.net/qq_59075481/article/details/139206017] 前言 SetWindowsHookEx 函数帮助其他人员注入模块到我们的进程&#x…

PHP质量工具系列之php_CodeSniffer

PHP_CodeSniffer 是一组两个 PHP 脚本&#xff1a;主脚本 phpcs 对 PHP、JavaScript 和 CSS 文件进行标记&#xff0c;以检测是否违反定义的编码标准&#xff1b;第二个脚本 phpcbf 自动纠正违反编码标准的行为。PHP_CodeSniffer 是一个重要的开发工具&#xff0c;可以确保你的…

二叉树—先后序线索化和先后序线索遍历

有了上篇文章的基础&#xff0c;先序和后序的线索化逻辑一样。 代码如下&#xff1a; void preOrderThreadTree(TreeNode* T,TreeNode** pre) {if (T NULL) {;}else {//printf("%c ", T->val);if (T->lchild NULL) {T->ltag 1;T->lchild *pre;}if …

翻译《The Old New Thing》- What‘s the deal with the EM_SETHILITE message?

Whats the deal with the EM_SETHILITE message? - The Old New Thing (microsoft.com)https://devblogs.microsoft.com/oldnewthing/20071025-00/?p24693 Raymond Chen 2007年10月25日 简要 文章讨论了EM_SETHILITE和EM_GETHILITE消息在文档中显示为“未实现”的原因。这些…

Python数字比大小获取大的数

目录 一、引言 二、数字比较的基本语法 三、获取较大的数 使用条件语句 使用内置函数 四、处理特殊情况 比较非数字类型 处理无穷大和NaN 五、应用实例 在游戏开发中比较分数 在数据分析中找出最大值 六、优化与性能 七、总结 一、引言 在Python编程的广阔天地中…

Redis 性能管理

一、Redis 性能管理 #查看Redis内存使用 172.168.1.11:6379> info memory 1. 内存碎片率 操作系统分配的内存值 used_memory_rss 除以 Redis 使用的内存总量值 used_memory 计算得出。内存值 used_memory_rss 表示该进程所占物理内存的大小&#xff0c;即为操作系统分配给…

【qt】纯代码界面设计

界面设计目录 一.界面设计的三种方式1.使用界面设计器2.纯代码界面设计3.混合界面设计 二.纯代码进行界面设计1.代码界面设计的总思路2.创建项目3.设计草图4.添加组件指针5.初始化组件指针6.添加组件到窗口①水平布局②垂直布局③细节点 7.定义槽函数8.初始化信号槽9.实现槽函数…

Sam Altman微软Build 2024最新演讲:AI可能是下一个移动互联网

大家好&#xff0c;我是木易&#xff0c;一个持续关注AI领域的互联网技术产品经理&#xff0c;国内Top2本科&#xff0c;美国Top10 CS研究生&#xff0c;MBA。我坚信AI是普通人变强的“外挂”&#xff0c;所以创建了“AI信息Gap”这个公众号&#xff0c;专注于分享AI全维度知识…

Tomcat部署项目的方式

目录 1、Tomcat发布项目的方式 方式1&#xff1a; 直接把项目发布到webapps目录下 方式2&#xff1a;项目发布到ROOT目录 方式3&#xff1a;虚拟路径方式发布项目 方式4&#xff1a;(推荐)虚拟路径&#xff0c;另外的方式&#xff01; 方式5&#xff1a;发布多个网站 1、…

无界鼠标与键盘,如何轻松控制多台电脑

简介 在软件开发领域&#xff0c;高效地管理多台电脑是至关重要的。Mouse without Borders软件为开发人员提供了一种便捷的解决方案&#xff0c;使他们能够轻松地在多台电脑之间共享鼠标和键盘。不仅如此&#xff0c;Mouse without Borders还提供了许多高级功能&#xff0c;如…

STM32F1之OV7725摄像头

目录 1. 摄像头简介 2. OV7725 摄像头简介 3. OV7725 引脚 4. OV7725 功能框架图 5. SCCB时序 5.1 SCCB 的起始、停止信号及数据有效性 5.2 SCCB 数据读写过程 1. 摄像头简介 在各类信息中&#xff0c;图像含有最丰富的信息&#xff0c;作为机…