Percona XtraBackup 实现全备&增量备份与恢复

178次阅读

没有评论

共计 11029 个字符，预计需要花费 28 分钟才能阅读完成。

Percona XtraBackup 主要是有两个工具，其中一个是 xtrabackup，一个是 innobackupex，后者是前者封装后的一个脚本。

在针对 MySQL 的物理备份工具中，大概是最流行也是最强大的工具了，此外著名的物理备份工具还有官方的 mysqlbackup。

xtrabackup 只可备份事务表，不能用于备份非事务表，而 innobackupex 不仅可用于备份事务表，也可以备份非事务表如 MyISAM

此文主要介绍 innobakcupex 的使用和原理。

本文所用到的版本：
xtrabackup 2.3.7 + MySQL 5.6.30

若 MySQL 版本为 5.7.x，建议使用 xtrabackup 2.4.x

〇 xtrabackup 可以做的
对 InnoDB 引擎的表做热备
增量备份
流压缩传输到另外的服务器上
在线移动表
更简单的创建从库
备份时不增加服务器负载

〇原理
备份及恢复大致涉及三个步骤：备份 -> prepare -> 恢复
备份运行时，工具会记住当时的 LSN 号，并打开 xtrabackup_logfile，然后开始对 datafile 进行 copy，即 ibdata1 及 ibd 文件。
复制需要一定的时间，在复制期间，如果文件被修改，工具将监视 redo log file 并将每一次更变记录下来，保存在 xtrabackup_logfile 中。
接下来处理非事务表如 MyISAM 的备份操作，innobackupex 通过 FLUSH TABLES WITH READ LOCK 来阻塞 DML。
并在此时获取 binlog 的 position[和 GTID]（此处我理解为和 mysqldump –single-transaction 处理方式类似）
在做完非事务表的 copy 之后，执行 UNLOCK TABLES，完成备份，并停止记录 xtrabackup_logfile。
接下来就是需要做 prepare 的过程，该过程类似 InnoDB 的 crash-recovery。
对 redo log 进行前滚（到数据文件），并将没提交的事务进行回滚操作（rollback），这样便可以保证数据的一致性，所以对于事务表，整个过程是不会影响写操作的。

注：InnoDB、XtraDB、MyISAM 是肯定支持的，其他的存储引擎不确定，待测。

〇权限需求
操作系统：
对 datadir 需要有 rwx 的权限。
MySQL：
最小所需要的权限有：
RELOAD
LOCK TABLES（如果加上 –no-lock 的话可以不要）
REPLICATION CLIENT（为了获得 binary log 的 position）
PROCESS（为了执行 show engine innodb status，并且需要查看所有运行的线程）
其他可能需要用到的权限：
CREATE TABLESPACE（如果需要通过 5.6+ 的 TTS 恢复 / 迁移单个表的话）
SUPER（可能需要在复制环境里启动或者停止 slave 线程）
CREATE\INSERT\SELECT（对 PERCONA_SCHEMA.xtrabackup_history 进行操作）

〇安装
安装超简单（只能在 linux 上用，不过但这就够了）
https://www.percona.com/downloads/XtraBackup/LATEST/
戳进去选择版本 down 下来很容易就可以用了。
有 RPM 包、DEB 包、源码包、二进制包。
个人推荐使用二进制包，解压，配置环境变量即可使用，在 debian 系或 RHEL 系通用，方便的一比。
源码包的安装，可以参考：
http://www.linuxidc.com/Linux/2016-11/137735.htm

〇配置
默认读取 my.cnf 的选项，读取优先级与 MySQL 相同。
比如在备份和恢复的时候无需指定 datadir 等，因为可以读取[mysqld] 组下的选项。
同样也可以读取 [client] 的信息，比如可以将 socket，user，password 加载到（虽然因为安全因素不建议使用，但是可以这么做）。
当然也可以通过 innobackupex –defaults-file=xxxx/my.cnf 去指定将要读取的配置文件。

〇全备
① 备份：
若加上 –no-timestamp，则不会在所指定的目录里生成一个时间戳目录，而是直接放在所指定的目录里，我一般是加的：
innobackupex –user= –password= $basedir [–no-timestamp]（当然 –user/–password 可以直接写作 -u $username -p $password）

在备份的文件夹中，有几个文件值得注意：
xtrabackup_binlog_info 记录了 binlog 的 position，若开启了 GTID，也会将 GTID 取出。
在用于备份 +binlog 恢复或建立 slave 的场景里十分有用。
xtrabackup_checkpoints 记录了此次备份的类型和 lsn 号的起始值，是否压缩等
xtrabackup_info 则记录了备份工具的信息，时间，备份对象（是针对全实例还是某库表），是否是增量，binlog 位置等

# cat xtrabackup_binlog_info
binlog.000001 2321 931d11a2-9a8b-11e6-829f-000c298e914c:1-8

# cat xtrabackup_checkpoints
backup_type = full-backuped
from_lsn = 0
to_lsn = 304247338
last_lsn = 304247338
compact = 0
recover_binlog_info = 0

# cat xtrabackup_info
uuid = cfb49b5f-02e8-11e7-94b4-000c298e914c
name =
tool_name = innobackupex
tool_command = –password=… /data/dbbak
tool_version = 2.3.7
ibbackup_version = 2.3.7
server_version = 5.6.30-log
start_time = 2017-03-07 11:47:36
end_time = 2017-03-07 11:47:39
lock_time = 0
binlog_pos = filename ‘binlog.000001’, position ‘2321’, GTID of the last change ‘931d11a2-9a8b-11e6-829f-000c298e914c:1-8’
innodb_from_lsn = 0
innodb_to_lsn = 304247338
partial = N
incremental = N
format = file
compact = N
compressed = N
encrypted = N

还有一个 backup-my.cnf 文件，则记录了备份时可能涉及到的选项参数，比如系统表空间信息，独立 undo 表空间信息，redo-log 信息等：
# cat backup-my.cnf
# This MySQL options file was generated by innobackupex.

# The MySQL server
[mysqld]
innodb_checksum_algorithm=innodb
innodb_log_checksum_algorithm=innodb
innodb_data_file_path=ibdata1:12M:autoextend
innodb_log_files_in_group=2
innodb_log_file_size=50331648
innodb_fast_checksum=false
innodb_page_size=16384
innodb_log_block_size=512
innodb_undo_directory=.
innodb_undo_tablespaces=0

② prepare：
第二步就是 prepare，前文也提到，这个过程类似 innodb 的 crash recovery
也可以理解为是“apply”的过程，这里是全备 prepare 的命令，十分简单
innobackupex –apply-log $basedir
在 –apply-log 的时候，可以指定 –use-memory，增大其值加快速度，若不指定，默认值为 100MB。

③ 恢复到 datadir：
恢复过程也十分简单（全备和增备都是这一个恢复命令），只需要加上 –copy-back 参数即可
innobackupex –copy-back $basedir
这样就可以将 $basedir 的东西恢复到 datadir 下了，datadir 无需指定，将会读取 my.cnf 获得
默认是需要 datadir 内为空的（或者没有创建），如果要强制写，则需要加参数：–force-non-empty-directories

〇增备

增量备份比起全备要复杂一点，本文也想主要介绍如何做增量备份。
用于有的场景，可能不需要每天对数据做全备。
比如有的场景是，每周做一次全备，每天对做一次增量备份，可以节约磁盘空间也可以减少备份时间。
增备的原理是通过对比 LSN 的信息，来找到被更变的数据，当有了修改操作时，LSN 号会改变，和上一次全备的差异 LSN 号做对比，则可将差异数据备份出来。

整个过程还是分为三个步骤，备份 -> prepare -> 恢复

①增备方法与全备不一样：
innobackupex –user= –password= –incremental $new_dir –incremental-basedir=$basedir

其中 –incremental 是本次增量备份存放目录
$new_dir 是表示将增量备份出来的东西放在哪个目录
–incremental-basedir 则表示，针对哪一次备份做增量备份

备份的差异在目录的 xtrabackup_checkpoints 中查看：
比如：
$basedir 中内容：
backup_type = full-prepared
from_lsn = 0
to_lsn = 304247338
last_lsn = 304247338
compact = 0
recover_binlog_info = 0

$new_bkdir 中内容：
backup_type = incremental
from_lsn = 304247338
to_lsn = 304250267
last_lsn = 304250267
compact = 0
recover_binlog_info = 0

可以注意一下增备的 from_lsn 号
大于这个 LSN 号的页都是被变更过的，这些偏移量，也就是需要被增量备份出去的

②prepare：
prepare 过程：
从第一个备份开始（也就是全量）做 prepare，再将往后的增量备份依次添加到全量备份中。
注意，此处多了一个参数即 –redo-only，该参数是指将已提交的事务应用，未提交的事务回滚。
此外，–incremental-dir 也是在之前没有用到过的，这个参数代表需要被合并进去的增量备份目录。
注意，此处多次的增量备份是指：针对上次的增量备份做的增量。

也就是可以理解为：
全备：500GB
第一次增量备份：2GB
第二次增量备份：1GB（针对第一次增量备份的增量数据）
……
第 n 次

按照备份顺序做 prepare，也就是 prepare 的顺序为：
第一次全备 -> 增量备份 1 -> 增量备份 2 -> … -> 增量备份 n
第一次全备的 prepare：innobackup –apply-log –redo-only $basedir
第二次 prepare：innobackup –apply-log –redo-only $basedir –incremental-dir=$new_dir_1（此处的 $new_dir_1 也就是第一次增量备份）
……
第 n 次 prepare：innobackup –apply-log $basedir –incremental-dir=$new_dir_n（此处的 $new_dir_n 也就是最近也就是最后一次的增量备份
最后一次增量备份的 prepare，不需要指定 –redo-only

最后将增量备份和全备进行合并，将未提交的事务回滚，这个操作和全量 prepare 无异：
innobackup –apply-log $basedir

看起来有点复杂，但没关系，下面会有实验和图解。

③恢复到 datadir：
和全量无异，直接 copyback 就行了
innobackupex –copy-back $basedir

增量备份的 prepare 有点蛋疼，还是小结一下：
① prepare 完备（加上 –redo-only）
② prepare 每一次增量备份到完备中，需要加上 –redo-only，最后一次增量备份的 prepare 不需要加 –redo-only
③ 对生成的最终完备做 –apply-log

〇实验

接下来就是实验……
先建个备份用的用户，给个权限。

mysql> CREATE USER xbackup@localhost IDENTIFIED BY ‘back123’;
mysql> GRANT RELOAD, PROCESS, LOCK TABLES, REPLICATION CLIENT ON *.* TO xbackup@localhost;

〇完全备份 & 恢复
在 test.tb 里加入测试数据

mysql> CREATE TABLE test.tb(id int primary key, name varchar(16));
Query OK, 0 rows affected (0.07 sec)
mysql> INSERT INTO test.tb VALUES(1,‘zhou’),(2,‘430’),(3,‘YYF’),(4,‘ChuaN’),(5,‘Faith’);
Query OK, 5 rows affected (0.02 sec)
Records: 5 Duplicates: 0 Warnings: 0

创建备份存放目录
$ mkdir -p /data/backup/

指定备份存放位置，开始备份
$ innobackupex -uxbackup -pbackup123 –no-timestamp /data/backup/backup
此处的 /data/backup/backup 就是全备的目录了。

…………（省略刷屏输出）
xtrabackup: Transaction log of lsn (304289583) to (304290858) was copied.
170321 16:06:11 completed OK!

看到 completed OK，表明就真的 ok 了。

可以看一下这个目录中的内容：
一部分是 MySQL 下 datadir 的内容，如库目录，redolog，系统表空间。
一部分是之前也有介绍过的，由备份工具生成的东西：
backup-my.cnf
ibdata1
ib_logfile0
ib_logfile1
mysql
performance_schema
test
xtrabackup_binlog_info
xtrabackup_binlog_pos_innodb
xtrabackup_checkpoints
xtrabackup_info
xtrabackup_logfile

进行 prepare

$ innobackupex –apply-log /data/backup/backup

关闭 mysqld
$ mysqladmin -uroot -p shutdown
Enter password:
$ ps -ef|grep mysql
root 2991 2438 1 11:08 pts/0 00:00:00 grep mysql

移除 datadir：
$ mv /data/mysql_data /data/mysql_data.bk

恢复数据
$ innobackupex –copy-back /data/backup/backup/

修改新 datadir 的权限
$ chown mysql:mysql -R /data/mysql_data

启动数据库
$ mysqld &
$ ps -ef|grep mysql
root 2712 2438 86 16:35 pts/0 00:00:02 mysqld
root 2714 2438 0 16:35 pts/0 00:00:00 grep mysql

检查 test.tb 中的内容

$ mysql -e “SELECT * FROM test.tb;“
+––––+–––––––+
| id | name |
+––––+–––––––+
| 1 | zhou |
| 2 | 430 |
| 3 | YYF |
| 4 | ChuaN |
| 5 | Faith |
+––––+–––––––+

至此，完全备份 & 恢复完成

〇增量备份 & 恢复

先来一次全备：
$ innobackupex -uxbackup -pbackup123 –no-timestamp /data/backup/all_backup
修改测试表及数据：（加个字段，改两条数据）

mysql> ALTER TABLE test.tb ADD COLUMN picked varchar(16);
Query OK, 0 rows affected (0.06 sec)
Records: 0 Duplicates: 0 Warnings: 0
mysql> UPDATE test.tb SET picked=‘naga’ WHERE id=1;
Query OK, 1 row affected (0.04 sec)
Rows matched: 1 Changed: 1 Warnings: 0
mysql> UPDATE test.tb SET picked=‘TA’ WHERE id=2;
Query OK, 1 row affected (0.00 sec)
Rows matched: 1 Changed: 1 Warnings: 0

执行第一次增量备份：
$ innobackupex -uxbackup -pbackup123 –no-timestamp –incremental /data/backup/incremental-dir-1 –incremental-basedir=/data/backup/all_backup/

可以再做一次增量备份：
此时有两种增量备份方法：
第一种，总是针对 basedir 做增量，这个方式恢复起来就特别简单了，只需要将最后一次的增量备份合并到全量备份里，就可以恢复了。
第二种，总是针对上一次的增量，做增量备份。这个方式的恢复，就要逐一合并了，也就是我上述所说看起来有点复杂的增备思路。
反正我是喜欢第一种的，感觉也可以适应绝大多数场景。

我拿 word 涂了两张图，帮助理解。
第一种：
总是将 1 月 1 日的全备作为 basedir，所以 FROM_LSN 号总是 5000。

第二种：
总是把上一次（最近一次）的备份作为 basedir。

此处介绍第二种：
多次增量备份的方法依旧，只需要修改 –incremental-basedir 即可：

继续对 test.tb 做一些修改：

mysql> UPDATE test.tb SET picked=‘DS’ WHERE id=3;
Query OK, 1 row affected (0.04 sec)
Rows matched: 1 Changed: 1 Warnings: 0
mysql> SELECT * FROM test.tb;
+––––+–––––––+––––––––+
| id | name | picked |
+––––+–––––––+––––––––+
| 1 | zhou | naga |
| 2 | 430 | TA |
| 3 | YYF | DS |
| 4 | ChuaN | NULL |
| 5 | Faith | NULL |
+––––+–––––––+––––––––+
5 rows in set (0.01 sec)

针对第一次增量备份 /data/backup/incremental-dir-1，做第二次增量备份，将第二次的增量备份放到 /data/backup/incremental-dir-2/

$ innobackupex -uxbackup -pbackup123 –no-timestamp –incremental /data/backup/incremental-dir-2/ –incremental-basedir=/data/backup/incremental-dir-1

prepare 过程，这个也是增量备份里最蛋疼的过程：

因为总共做了三次备份，所以先做三次 prepare：
先对全备做 prepare：
$ innobackupex –apply-log –redo-only /data/backup/all_backup/
然后接下来做第一次增量备份的 prepare：
$ innobackupex –apply-log –redo-only /data/backup/all_backup/ –incremental-dir=/data/backup/incremental-dir-1
再对第二次的增量备份 prepare，注意，第二次的增备是最后一次，所以不需要加上 –redo-only 参数：
$ innobackupex –apply-log /data/backup/all_backup/ –incremental-dir=/data/backup/incremental-dir-2

最后将两次增量备份和全备做一次合并：
$ innobackupex –apply-log /data/backup/all_backup/

恢复过程，这个和全量恢复没有区别：

停掉 mysqld
$ mysqladmin -uroot -p shutdown
$ ps -ef|grep mysql
root 3533 3081 0 17:05 pts/1 00:00:00 grep mysql

移除 datadir
$ mv /data/mysql_data /data/mysql_data.bk2

恢复数据
$ innobackupex –copy-back /data/backup/all_backup/

修改新 datadir 的权限
$ chown mysql:mysql -R /data/mysql_data

启动
$ mysqld &

检查一下，全备和两次增备的内容都已经被恢复回来了，也就是最后一次数据的状态：

$ mysql -uroot -p -e “SELECT * FROM test.tb;“
+––––+–––––––+––––––––+
| id | name | picked |
+––––+–––––––+––––––––+
| 1 | zhou | naga |
| 2 | 430 | TA |
| 3 | YYF | DS |
| 4 | ChuaN | NULL |
| 5 | Faith | NULL |
+––––+–––––––+––––––––+
至此，增量备份 & 恢复完成。
〇总结一下 xtrabackup 备份及恢复全过程：

1、备份操作，需要提供具有足够权限的 MySQL 用户，并且 mysqld 启动用户需要对 datadir 有 rwx 的权限。
2、prepare，将未提交的事务回滚，将已提交的事务写入数据文件。
3、停止 mysqld 服务
4、mv data/ data_bak_…/
5、copyback 回去
6、修改权限新的 datadir 权限
7、启动服务

当然，上述所有的备份对象，都是针对整个 MySQL 实例。