阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

Percona XtraBackup 实现全备&增量备份与恢复

171次阅读
没有评论

共计 11029 个字符,预计需要花费 28 分钟才能阅读完成。

Percona XtraBackup 主要是有两个工具,其中一个是 xtrabackup,一个是 innobackupex,后者是前者封装后的一个脚本。

在针对 MySQL 的物理备份工具中,大概是最流行也是最强大的工具了,此外著名的物理备份工具还有官方的 mysqlbackup。

xtrabackup 只可备份事务表,不能用于备份非事务表,而 innobackupex 不仅可用于备份事务表,也可以备份非事务表如 MyISAM

此文主要介绍 innobakcupex 的使用和原理。

本文所用到的版本:
xtrabackup 2.3.7 + MySQL 5.6.30

若 MySQL 版本为 5.7.x,建议使用 xtrabackup 2.4.x

〇 xtrabackup 可以做的
    对 InnoDB 引擎的表做热备
    增量备份
    流压缩传输到另外的服务器上
    在线移动表
    更简单的创建从库
    备份时不增加服务器负载

 〇 原理
     备份及恢复大致涉及三个步骤:备份 -> prepare -> 恢复
     备份运行时,工具会记住当时的 LSN 号,并打开 xtrabackup_logfile,然后开始对 datafile 进行 copy,即 ibdata1 及 ibd 文件。
     复制需要一定的时间,在复制期间,如果文件被修改,工具将监视 redo log file 并将每一次更变记录下来,保存在 xtrabackup_logfile 中。
     接下来处理非事务表如 MyISAM 的备份操作,innobackupex 通过 FLUSH TABLES WITH READ LOCK 来阻塞 DML。
     并在此时获取 binlog 的 position[和 GTID](此处我理解为和 mysqldump –single-transaction 处理方式类似)
     在做完非事务表的 copy 之后,执行 UNLOCK TABLES,完成备份,并停止记录 xtrabackup_logfile。
     接下来就是需要做 prepare 的过程,该过程类似 InnoDB 的 crash-recovery。
     对 redo log 进行前滚(到数据文件),并将没提交的事务进行回滚操作(rollback),这样便可以保证数据的一致性,所以对于事务表,整个过程是不会影响写操作的。
 
     注:InnoDB、XtraDB、MyISAM 是肯定支持的,其他的存储引擎不确定,待测。
 
 〇 权限需求
     操作系统:
         对 datadir 需要有 rwx 的权限。
     MySQL:
         最小所需要的权限有:
         RELOAD
         LOCK TABLES(如果加上 –no-lock 的话可以不要)
         REPLICATION CLIENT(为了获得 binary log 的 position)
         PROCESS(为了执行 show engine innodb status,并且需要查看所有运行的线程)
         其他可能需要用到的权限:
         CREATE TABLESPACE(如果需要通过 5.6+ 的 TTS 恢复 / 迁移单个表的话)
         SUPER(可能需要在复制环境里启动或者停止 slave 线程)
         CREATE\INSERT\SELECT(对 PERCONA_SCHEMA.xtrabackup_history 进行操作)
 
 〇 安装
     安装超简单(只能在 linux 上用,不过但这就够了)
     https://www.percona.com/downloads/XtraBackup/LATEST/
     戳进去选择版本 down 下来很容易就可以用了。
     有 RPM 包、DEB 包、源码包、二进制包。
     个人推荐使用二进制包,解压,配置环境变量即可使用,在 debian 系或 RHEL 系通用,方便的一比。
     源码包的安装,可以参考:
     http://www.linuxidc.com/Linux/2016-11/137735.htm
 
 〇 配置
     默认读取 my.cnf 的选项,读取优先级与 MySQL 相同。
     比如在备份和恢复的时候无需指定 datadir 等,因为可以读取[mysqld] 组下的选项。
     同样也可以读取 [client] 的信息,比如可以将 socket,user,password 加载到(虽然因为安全因素不建议使用,但是可以这么做)。
     当然也可以通过 innobackupex –defaults-file=xxxx/my.cnf 去指定将要读取的配置文件。
 
 〇 全备
 ① 备份:
     若加上 –no-timestamp,则不会在所指定的目录里生成一个时间戳目录,而是直接放在所指定的目录里,我一般是加的:
     innobackupex –user= –password= $basedir [–no-timestamp](当然 –user/–password 可以直接写作 -u $username -p $password)
     
     在备份的文件夹中,有几个文件值得注意:
     xtrabackup_binlog_info 记录了 binlog 的 position,若开启了 GTID,也会将 GTID 取出。
     在用于备份 +binlog 恢复或建立 slave 的场景里十分有用。
     xtrabackup_checkpoints 记录了此次备份的类型和 lsn 号的起始值,是否压缩等
     xtrabackup_info 则记录了备份工具的信息,时间,备份对象(是针对全实例还是某库表),是否是增量,binlog 位置等
 
     # cat xtrabackup_binlog_info
     binlog.000001   2321    931d11a2-9a8b-11e6-829f-000c298e914c:1-8
 
     # cat xtrabackup_checkpoints
     backup_type = full-backuped
     from_lsn = 0
     to_lsn = 304247338
     last_lsn = 304247338
     compact = 0
      recover_binlog_info = 0
 
     # cat xtrabackup_info
     uuid = cfb49b5f-02e8-11e7-94b4-000c298e914c
     name = 
     tool_name = innobackupex
     tool_command = –password=… /data/dbbak
     tool_version = 2.3.7
     ibbackup_version = 2.3.7
     server_version = 5.6.30-log
     start_time = 2017-03-07 11:47:36
     end_time = 2017-03-07 11:47:39
     lock_time = 0
     binlog_pos = filename ‘binlog.000001’, position ‘2321’, GTID of the last change ‘931d11a2-9a8b-11e6-829f-000c298e914c:1-8’
     innodb_from_lsn = 0
     innodb_to_lsn = 304247338
     partial = N
     incremental = N
     format = file
     compact = N
     compressed = N
     encrypted = N 
 

     还有一个 backup-my.cnf 文件,则记录了备份时可能涉及到的选项参数,比如系统表空间信息,独立 undo 表空间信息,redo-log 信息等:
     # cat backup-my.cnf 
     # This MySQL options file was generated by innobackupex.
 
     # The MySQL server
     [mysqld]
     innodb_checksum_algorithm=innodb
     innodb_log_checksum_algorithm=innodb
     innodb_data_file_path=ibdata1:12M:autoextend
     innodb_log_files_in_group=2
     innodb_log_file_size=50331648
     innodb_fast_checksum=false
     innodb_page_size=16384
     innodb_log_block_size=512
     innodb_undo_directory=.
     innodb_undo_tablespaces=0 
 
 ② prepare:
     第二步就是 prepare,前文也提到,这个过程类似 innodb 的 crash recovery
     也可以理解为是“apply”的过程,这里是全备 prepare 的命令,十分简单
     innobackupex –apply-log $basedir
     在 –apply-log 的时候,可以指定 –use-memory,增大其值加快速度,若不指定,默认值为 100MB。
 
 ③ 恢复到 datadir:
     恢复过程也十分简单(全备和增备都是这一个恢复命令),只需要加上 –copy-back 参数即可
     innobackupex –copy-back $basedir
     这样就可以将 $basedir 的东西恢复到 datadir 下了,datadir 无需指定,将会读取 my.cnf 获得
     默认是需要 datadir 内为空的(或者没有创建),如果要强制写,则需要加参数:–force-non-empty-directories
 
 
 〇 增备
     
     增量备份比起全备要复杂一点,本文也想主要介绍如何做增量备份。
     用于有的场景,可能不需要每天对数据做全备。
     比如有的场景是,每周做一次全备,每天对做一次增量备份,可以节约磁盘空间也可以减少备份时间。
     增备的原理是通过对比 LSN 的信息,来找到被更变的数据,当有了修改操作时,LSN 号会改变,和上一次全备的差异 LSN 号做对比,则可将差异数据备份出来。
 
     整个过程还是分为三个步骤,备份 -> prepare -> 恢复
 
 ①增备方法与全备不一样:
     innobackupex –user= –password= –incremental $new_dir –incremental-basedir=$basedir
 
    其中 –incremental 是本次增量备份存放目录
     $new_dir 是表示将增量备份出来的东西放在哪个目录
     –incremental-basedir 则表示,针对哪一次备份做增量备份
 
     备份的差异在目录的 xtrabackup_checkpoints 中查看:
     比如:
     $basedir 中内容:
     backup_type = full-prepared
     from_lsn = 0
     to_lsn = 304247338
     last_lsn = 304247338
     compact = 0
     recover_binlog_info = 0 
 
     $new_bkdir 中内容:
     backup_type = incremental
     from_lsn = 304247338
     to_lsn = 304250267
     last_lsn = 304250267
     compact = 0
     recover_binlog_info = 0
 
     可以注意一下增备的 from_lsn 号
     大于这个 LSN 号的页都是被变更过的,这些偏移量,也就是需要被增量备份出去的
 
 ②prepare:
     prepare 过程:
     从第一个备份开始(也就是全量)做 prepare,再将往后的增量备份依次添加到全量备份中。
     注意,此处多了一个参数即 –redo-only,该参数是指将已提交的事务应用,未提交的事务回滚。
     此外,–incremental-dir 也是在之前没有用到过的,这个参数代表需要被合并进去的增量备份目录。
     注意,此处多次的增量备份是指:针对上次的增量备份做的增量。
   
     也就是可以理解为:
         全备:500GB
         第一次增量备份:2GB
         第二次增量备份:1GB(针对第一次增量备份的增量数据)
         ……
         第 n 次
 
     按照备份顺序做 prepare,也就是 prepare 的顺序为:
     第一次全备 -> 增量备份 1 -> 增量备份 2 -> … -> 增量备份 n
     第一次全备的 prepare:innobackup –apply-log –redo-only $basedir
     第二次 prepare:innobackup –apply-log –redo-only $basedir –incremental-dir=$new_dir_1(此处的 $new_dir_1 也就是第一次增量备份)
     ……
     第 n 次 prepare:innobackup –apply-log $basedir –incremental-dir=$new_dir_n(此处的 $new_dir_n 也就是最近也就是最后一次的增量备份
     最后一次增量备份的 prepare,不需要指定 –redo-only
 
     最后将增量备份和全备进行合并,将未提交的事务回滚,这个操作和全量 prepare 无异:
     innobackup –apply-log $basedir
 
     看起来有点复杂,但没关系,下面会有实验和图解。
 
 ③恢复到 datadir:
     和全量无异,直接 copyback 就行了
     innobackupex –copy-back $basedir
 
  增量备份的 prepare 有点蛋疼,还是小结一下:
      ① prepare 完备(加上 –redo-only)
      ② prepare 每一次增量备份到完备中,需要加上 –redo-only,最后一次增量备份的 prepare 不需要加 –redo-only
      ③ 对生成的最终完备做 –apply-log
 
 


 〇 实验
 
     接下来就是实验……
     先建个备份用的用户,给个权限。

  1. mysql> CREATE USER xbackup@localhost IDENTIFIED BY ‘back123’;
  2. mysql> GRANT RELOAD, PROCESS, LOCK TABLES, REPLICATION CLIENT ON *.* TO xbackup@localhost;

   
 〇 完全备份 & 恢复
     在 test.tb 里加入测试数据

  1. mysql> CREATE TABLE test.tb(id int primary key, name varchar(16));
  2. Query OK, 0 rows affected (0.07 sec)
  3.  
  4. mysql> INSERT INTO test.tb VALUES(1,‘zhou’),(2,‘430’),(3,‘YYF’),(4,‘ChuaN’),(5,‘Faith’);
  5. Query OK, 5 rows affected (0.02 sec)
  6. Records: 5 Duplicates: 0 Warnings: 0

    创建备份存放目录
     $ mkdir -p /data/backup/  
 
    指定备份存放位置,开始备份
     $ innobackupex -uxbackup -pbackup123 –no-timestamp /data/backup/backup
     此处的 /data/backup/backup 就是全备的目录了。

    …………(省略刷屏输出)
     xtrabackup: Transaction log of lsn (304289583) to (304290858) was copied.
     170321 16:06:11 completed OK!
 
     看到 completed OK,表明就真的 ok 了。
 
     可以看一下这个目录中的内容:
     一部分是 MySQL 下 datadir 的内容,如库目录,redolog,系统表空间。
     一部分是之前也有介绍过的,由备份工具生成的东西:
      backup-my.cnf
      ibdata1
      ib_logfile0    
      ib_logfile1
      mysql
      performance_schema
      test
      xtrabackup_binlog_info
      xtrabackup_binlog_pos_innodb
      xtrabackup_checkpoints
      xtrabackup_info
      xtrabackup_logfile
 
 
     进行 prepare
 
    $ innobackupex –apply-log /data/backup/backup
 
     关闭 mysqld
     $ mysqladmin -uroot -p shutdown
     Enter password: 
     $ ps -ef|grep mysql
     root       2991   2438  1 11:08 pts/0    00:00:00 grep mysql
 
     移除 datadir:
     $ mv /data/mysql_data /data/mysql_data.bk
 
     恢复数据
     $ innobackupex –copy-back /data/backup/backup/
 
     修改新 datadir 的权限
     $ chown mysql:mysql -R /data/mysql_data
 
     启动数据库
     $ mysqld &
     $ ps -ef|grep mysql
     root       2712   2438 86 16:35 pts/0    00:00:02 mysqld
     root       2714   2438  0 16:35 pts/0    00:00:00 grep mysql
 

    检查 test.tb 中的内容 

  1. $ mysql -e SELECT * FROM test.tb;
  2. +++
  3. | id | name  |
  4. +++
  5. | 1  | zhou  |
  6. | 2  | 430   |
  7. | 3  | YYF   |
  8. | 4  | ChuaN |
  9. | 5  | Faith |
  10. +++

     至此,完全备份 & 恢复完成
 

 〇 增量备份 & 恢复
 
    先来一次全备:
     $ innobackupex -uxbackup -pbackup123 –no-timestamp /data/backup/all_backup
     修改测试表及数据:(加个字段,改两条数据)

  1. mysql> ALTER TABLE test.tb ADD COLUMN picked varchar(16);
  2. Query OK, 0 rows affected (0.06 sec)
  3. Records: 0 Duplicates: 0 Warnings: 0
  4. mysql> UPDATE test.tb SET picked=‘naga’ WHERE id=1;
  5. Query OK, 1 row affected (0.04 sec)
  6. Rows matched: 1 Changed: 1 Warnings: 0
  7.  
  8. mysql> UPDATE test.tb SET picked=‘TA’ WHERE id=2;
  9. Query OK, 1 row affected (0.00 sec)
  10. Rows matched: 1 Changed: 1 Warnings: 0

 
     执行第一次增量备份:
     $ innobackupex -uxbackup -pbackup123 –no-timestamp –incremental /data/backup/incremental-dir-1 –incremental-basedir=/data/backup/all_backup/ 
 
 
    可以再做一次增量备份:
     此时有两种增量备份方法:
     第一种,总是针对 basedir 做增量,这个方式恢复起来就特别简单了,只需要将最后一次的增量备份合并到全量备份里,就可以恢复了。
     第二种,总是针对上一次的增量,做增量备份。这个方式的恢复,就要逐一合并了,也就是我上述所说看起来有点复杂的增备思路。
     反正我是喜欢第一种的,感觉也可以适应绝大多数场景。
 
      我拿 word 涂了两张图,帮助理解。
     第一种:
     总是将 1 月 1 日的全备作为 basedir,所以 FROM_LSN 号总是 5000。
     Percona XtraBackup 实现全备 & 增量备份与恢复
 
     第二种:
     总是把上一次(最近一次)的备份作为 basedir。
     
 

 
    此处介绍第二种:
    多次增量备份的方法依旧,只需要修改 –incremental-basedir 即可:
     
     继续对 test.tb 做一些修改:

  1. mysql> UPDATE test.tb SET picked=‘DS’ WHERE id=3;
  2. Query OK, 1 row affected (0.04 sec)
  3. Rows matched: 1 Changed: 1 Warnings: 0
  4. mysql> SELECT * FROM test.tb;
  5. ++++
  6. | id | name  | picked |
  7. ++++
  8. | 1  | zhou  | naga   |
  9. | 2  | 430   | TA     |
  10. | 3  | YYF   | DS     |
  11. | 4  | ChuaN | NULL    |
  12. | 5  | Faith | NULL   |
  13. ++++
  14. 5 rows in set (0.01 sec)

     针对第一次增量备份 /data/backup/incremental-dir-1,做第二次增量备份,将第二次的增量备份放到 /data/backup/incremental-dir-2/
 
    $ innobackupex -uxbackup -pbackup123 –no-timestamp –incremental /data/backup/incremental-dir-2/ –incremental-basedir=/data/backup/incremental-dir-1
 

    prepare 过程,这个也是增量备份里最蛋疼的过程:
     
     因为总共做了三次备份,所以先做三次 prepare:
     先对全备做 prepare:
     $ innobackupex –apply-log –redo-only /data/backup/all_backup/
     然后接下来做第一次增量备份的 prepare:
     $ innobackupex –apply-log –redo-only /data/backup/all_backup/ –incremental-dir=/data/backup/incremental-dir-1
     再对第二次的增量备份 prepare,注意,第二次的增备是最后一次,所以不需要加上 –redo-only 参数:
     $ innobackupex –apply-log /data/backup/all_backup/ –incremental-dir=/data/backup/incremental-dir-2
     
     最后将两次增量备份和全备做一次合并:
     $ innobackupex –apply-log /data/backup/all_backup/
 
     恢复过程,这个和全量恢复没有区别:
 
    停掉 mysqld
     $ mysqladmin -uroot -p shutdown
     $ ps -ef|grep mysql
     root       3533   3081  0 17:05 pts/1    00:00:00 grep mysql
     
     移除 datadir
     $ mv /data/mysql_data /data/mysql_data.bk2
     
     恢复数据
     $ innobackupex –copy-back /data/backup/all_backup/
     
      修改新 datadir 的权限
     $ chown mysql:mysql -R /data/mysql_data
 
      启动
     $ mysqld &
 
    检查一下,全备和两次增备的内容都已经被恢复回来了,也就是最后一次数据的状态:

  1. $ mysql -uroot -p -e SELECT * FROM test.tb;
  2. ++++
  3. | id | name  | picked |
  4. ++++
  5. | 1  | zhou  | naga   |
  6. | 2  | 430   | TA     |
  7. | 3  | YYF   | DS     |
  8. | 4  | ChuaN | NULL   |
  9. | 5  | Faith | NULL   |
  10. ++++

          至此,增量备份 & 恢复完成。

     〇 总结一下 xtrabackup 备份及恢复全过程:
     
          1、备份操作,需要提供具有足够权限的 MySQL 用户,并且 mysqld 启动用户需要对 datadir 有 rwx 的权限。
          2、prepare,将未提交的事务回滚,将已提交的事务写入数据文件。
          3、停止 mysqld 服务
          4、mv data/ data_bak_…/
          5、copyback 回去
          6、修改权限新的 datadir 权限
          7、启动服务
     
         当然,上述所有的备份对象,都是针对整个 MySQL 实例。

 〇 参考资料:
 
官方手册:
https://www.percona.com/doc/percona-xtrabackup/2.3/index.html

更多 XtraBackup 相关教程见以下内容

MySQL 管理之使用 XtraBackup 进行热备 http://www.linuxidc.com/Linux/2014-04/99671.htm

使用 Xtrabackup 进行 MySQL 备份  http://www.linuxidc.com/Linux/2016-11/137734.htm

MySQL 开源备份工具 Xtrabackup 备份部署 http://www.linuxidc.com/Linux/2013-06/85627.htm

MySQL Xtrabackup 备份和恢复 http://www.linuxidc.com/Linux/2011-12/50275.htm

Percona Xtrabackup 安装  http://www.linuxidc.com/Linux/2016-11/137735.htm

使用 XtraBackup 备份 MySQL 数据库  http://www.linuxidc.com/Linux/2016-12/138688.htm

使用 Xtrabackup 进行 MySQL 数据库全备和全备还原  http://www.linuxidc.com/Linux/2016-11/137736.htm

XtraBackup 备份原理和实战详解  http://www.linuxidc.com/Linux/2017-04/142477.htm

Percona XtraBackup 实现全备 & 增量备份与恢复  http://www.linuxidc.com/Linux/2017-03/142380.htm

本文永久更新链接地址:http://www.linuxidc.com/Linux/2017-06/145040.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计11029字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中