共计 11255 个字符,预计需要花费 29 分钟才能阅读完成。
导读 | 大数据量备份与还原,始终是个难点。当 MYSQL 超 10G,用 mysqldump 来导出就比较慢了。这里介绍一个强大的开源工具 Xtrabackup。 |
Xtrabackup 是由 percona 提供的 mysql 数据库备份工具,据官方介绍,这也是世界上惟一一款开源的能够对 innodb 和 xtradb 数据库进行热备的工具,是商业备份工具 InnoDB Hotbackup 的一个很好的替代品。特点:
(1)备份过程快速、可靠;(2)备份过程不会打断正在执行的事务;(3)能够基于压缩等功能节约磁盘空间和流量;(4)自动实现备份检验;(5)还原速度快;
其最新版的软件可从 http://www.percona.com/software/percona-xtrabackup/ 获得。本文基于 CentOS6.6 的系统,因此,直接下载相应版本的 rpm 包安装即可。
[root@localhost xtrabackup]# yum -y install perl perl-devel libaio libaio-devel perl-Time-HiRes perl-DBD-MySQL // 安装依赖包
[root@localhost xtrabackup]# rpm -ivh percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm
warning: percona-xtrabackup-2.2.4-5004.el6.x86_64.rpm: Header V4 DSA/SHA1 Signature, key ID cd2efd2a: NOKEY
Preparing... ########################################### [100%]
1:percona-xtrabackup ########################################### [100%]
# innobackupex --user=DBUSER --password=DBUSERPASS /path/to/BACKUP-DIR/
如果要使用一个最小权限的用户进行备份,则可基于如下命令创建此类用户:
mysql> CREATE USER’feiyu'@’localhost’IDENTIFIED BY’s3cret’;
mysql> REVOKE ALL PRIVILEGES, GRANT OPTION FROM’feiyu’;
mysql> GRANT RELOAD, LOCK TABLES, REPLICATION CLIENT ON *.* TO’feiyu’@’localhost’;
mysql> FLUSH PRIVILEGES;
使用 innobakupex 备份时,其会调用 xtrabackup 备份所有的 InnoDB 表,复制所有关于表结构定义的相关文件(.frm)、以及 MyISAM、MERGE、CSV 和 ARCHIVE 表的相关文件,同时还会备份触发器和数据库配置信息相关的文件。这些文件会被保存至一个以时间命令的目录中。
在使用 innobackupex 进行备份时,还可以使用–no-timestamp 选项来阻止命令自动创建一个以时间命名的目录;如此一来,innobackupex 命令将会创建一个 BACKUP-DIR 目录来存储备份数据。
一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能会包含尚未提交的事务或已经提交但尚未同步至数据文件中的事务。因此,此时数据文件仍处理不一致状态。“准备”的主要作用正是通过回滚未提交的事务及同步已经提交的事务至数据文件也使得数据文件处于一致性状态。
innobakupex 命令的–apply-log 选项可用于实现上述功能。如下面的命令:
# innobackupex --apply-log /path/to/BACKUP-DIR
如果执行正确,其最后输出的几行信息通常如下:
xtrabackup: starting shutdown with innodb_fast_shutdown = 1
120407 9:01:36 InnoDB: Starting shutdown...
120407 9:01:40 InnoDB: Shutdown completed; log sequence number 92036620
120407 09:01:40 innobackupex: completed OK!
在实现“准备”的过程中,innobackupex 通常还可以使用–use-memory 选项来指定其可以使用的内存的大小,默认通常为 100M。如果有足够的内存可用,可以多划分一些内存给 prepare 的过程,以提高其完成速度。
innobackupex 命令的–copy-back 选项用于执行恢复操作,其通过复制所有数据相关的文件至 mysql 服务器 DATADIR 目录中来执行恢复过程。innobackupex 通过 backup-my.cnf 来获取 DATADIR 目录的相关信息。
# innobackupex --copy-back /path/to/BACKUP-DIR
如果执行正确,其输出信息的最后几行通常如下:
innobackupex: Starting to copy InnoDB log files
innobackupex: in '/backup/2012-04-07_08-17-03'
innobackupex: back to original InnoDB log directory '/mydata/data'
innobackupex: Finished copying back files.
120407 09:36:10 innobackupex: completed OK!
请确保如上信息的最行一行出现“innobackupex: completed OK!”。
当数据恢复至 DATADIR 目录以后,还需要确保所有数据文件的属主和属组均为正确的用户,如 mysql,否则,在启动 mysqld 之前还需要事先修改数据文件的属主和属组。如:
# chown -R mysql:mysql /mydata/data/
每个 InnoDB 的页面都会包含一个 LSN 信息,每当相关的数据发生改变,相关的页面的 LSN 就会自动增长。这正是 InnoDB 表可以进行增量备份的基础,即 innobackupex 通过备份上次完全备份之后发生改变的页面来实现。
要实现第一次增量备份,可以使用下面的命令进行:
# innobackupex --incremental /backup --incremental-basedir=BASEDIR
(要对与完全备份实行增量备份,basedir 指完全备份的目录,要对上一次增量备份再执行增量备份,则指定上一次
增量备份的目录)
其中,BASEDIR 指的是完全备份所在的目录,此命令执行结束后,innobackupex 命令会在 /backup 目录中创建一个新的以时间命名的目录以存放所有的增量备份数据。另外,在执行过增量备份之后再一次进行增量备份时,其–incremental-basedir 应该指向上一次的增量备份所在的目录。
需要注意的是,增量备份仅能应用于 InnoDB 或 XtraDB 表,对于 MyISAM 表而言,执行增量备份时其实进行的是完全备份。
“准备”(prepare)增量备份与整理完全备份有着一些不同,尤其要注意的是:
于是,操作就变成了:
# innobackupex --apply-log --redo-only BASE-DIR
接着执行:
# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-1
而后是第二个增量:
# innobackupex --apply-log --redo-only BASE-DIR --incremental-dir=INCREMENTAL-DIR-2
其中 BASE-DIR 指的是完全备份所在的目录,而 INCREMENTAL-DIR- 1 指的是第一次增量备份的目录,INCREMENTAL-DIR- 2 指的是第二次增量备份的目录,其它依次类推,即如果有多次增量备份,每一次都要执行如上操作;
Xtrabackup 对备份的数据文件支持“流”功能,即可以将备份的数据通过 STDOUT 传输给 tar 程序进行归档,而不是默认的直接保存至某备份目录中。要使用此功能,仅需要使用–stream 选项即可。如:
# innobackupex --stream=tar /backup | gzip > /backup/`date +%F_%H-%M-%S`.tar.gz
甚至也可以使用类似如下命令将数据备份至其它服务器:
# innobackupex --stream=tar /backup | ssh user@www.feiyu.com "cat - > /backups/`date +%F_%H-%M-%S`.tar"
此外,在执行本地备份时,还可以使用–parallel 选项对多个文件进行并行复制。此选项用于指定在复制时启动的线程数目。当然,在实际进行备份时要利用此功能的便利性,也需要启用 innodb_file_per_table 选项或共享的表空间通过 innodb_data_file_path 选项存储在多个 ibdata 文件中。对某一数据库的多个文件的复制无法利用到此功能。其简单使用方法如下:
# innobackupex --parallel /path/to/backup
同时,innobackupex 备份的数据文件也可以存储至远程主机,这可以使用–remote-host 选项来实现:
# innobackupex --remote-host=root@www.feiyu.com /path/IN/REMOTE/HOST/to/backup
默认情况下,InnoDB 表不能通过直接复制表文件的方式在 mysql 服务器之间进行移植,即便使用了 innodb_file_per_table 选项。而使用 Xtrabackup 工具可以实现此种功能,不过,此时需要“导出”表的 mysql 服务器启用了 innodb_file_per_table 选项(严格来说,是要“导出”的表在其创建之前,mysql 服务器就启用了 innodb_file_per_table 选项),并且“导入”表的服务器同时启用了 innodb_file_per_table 和 innodb_expand_import 选项。
(1)“导出”表
导出表是在备份的 prepare 阶段进行的,因此,一旦完全备份完成,就可以在 prepare 过程中通过–export 选项将某表导出了:
# innobackupex --apply-log --export /path/to/backup
此命令会为每个 innodb 表的表空间创建一个以.exp 结尾的文件,这些以.exp 结尾的文件则可以用于导入至其它服务器。
(2)“导入”表
要在 mysql 服务器上导入来自于其它服务器的某 innodb 表,需要先在当前服务器上创建一个跟原表表结构一致的表,而后才能实现将表导入:
mysql> CREATE TABLE mytable (...) ENGINE=InnoDB;
然后将此表的表空间删除:
mysql> ALTER TABLE mydatabase.mytable DISCARD TABLESPACE;
接下来,将来自于“导出”表的服务器的 mytable 表的 mytable.ibd 和 mytable.exp 文件复制到当前服务器的数据目录,然后使用如下命令将其“导入”:
mysql> ALTER TABLE mydatabase.mytable IMPORT TABLESPACE;
Xtrabackup 也可以实现部分备份,即只备份某个或某些指定的数据库或某数据库中的某个或某些表。但要使用此功能,必须启用 innodb_file_per_table 选项,即每张表保存为一个独立的文件。同时,其也不支持–stream 选项,即不支持将数据通过管道传输给其它程序进行处理。
此外,还原部分备份跟还原全部数据的备份也有所不同,即你不能通过简单地将 prepared 的部分备份使用–copy-back 选项直接复制回数据目录,而是要通过导入表的方向来实现还原。当然,有些情况下,部分备份也可以直接通过–copy-back 进行还原,但这种方式还原而来的数据多数会产生数据不一致的问题,因此,无论如何不推荐使用这种方式。
(1)创建部分备份
创建部分备份的方式有三种:正则表达式 (–include), 枚举表文件(–tables-file) 和列出要备份的数据库(–databases)。
(a)使用–include
使用–include 时,要求为其指定要备份的表的完整名称,即形如 databasename.tablename,如:
# innobackupex --include='^feiyu[.]tb1' /path/to/backup
(b)使用–tables-file
此选项的参数需要是一个文件名,此文件中每行包含一个要备份的表的完整名称;如:
# echo -e 'feiyu.tb1\nmageedu.tb2' > /tmp/tables.txt
# innobackupex --tables-file=/tmp/tables.txt /path/to/backup
(c)使用–databases
此选项接受的参数为数据名,如果要指定多个数据库,彼此间需要以空格隔开;同时,在指定某数据库时,也可以只指定其中的某张表。此外,此选项也可以接受一个文件为参数,文件中每一行为一个要备份的对象。如:
# innobackupex --databases="feiyu testdb" /path/to/backup
(2)整理 (preparing) 部分备份
prepare 部分备份的过程类似于导出表的过程,要使用–export 选项进行:
# innobackupex --apply-log --export /pat/to/partial/backup
此命令执行过程中,innobackupex 会调用 xtrabackup 命令从数据字典中移除缺失的表,因此,会显示出许多关于“表不存在”类的警告信息。同时,也会显示出为备份文件中存在的表创建.exp 文件的相关信息。
(3)还原部分备份
还原部分备份的过程跟导入表的过程相同。当然,也可以通过直接复制 prepared 状态的备份直接至数据目录中实现还原,不要此时要求数据目录处于一致状态。
下面实际演示其完整的备份流程:
←#14#root@localhost /tmp/full-backup →innobackupex --user=root /tmp/full-backup/ #完全备份
InnoDB Backup Utility v1.5.1-xtrabackup; Copyright 2003, 2009 Innobase Oy
and Percona LLC and/or its affiliates 2009-2013. All Rights Reserved.。。。。。。。。。。xtrabackup: The latest check point (for incremental): '2987626'
xtrabackup: Stopping log copying thread.
.>> log scanned up to (2987626)
xtrabackup: Creating suspend file '/tmp/full-backup/2015-06-25_05-58-26/xtrabackup_log_copied' with pid '7858'
xtrabackup: Transaction log of lsn (2987626) to (2987626) was copied.
150625 05:58:30 innobackupex: All tables unlocked
innobackupex: Backup created in directory '/tmp/full-backup/2015-06-25_05-58-26'
innobackupex: MySQL binlog position: filename 'mysql-bin.000001', position 2383
150625 05:58:30 innobackupex: Connection to database server closed
150625 05:58:30 innobackupex: completed OK!
mysql> insert into tutors(tname) values('stu00011');# 在数据库中插入数据
Query OK, 1 row affected (0.03 sec)
mysql> insert into tutors(tname) values('stu00012');
Query OK, 1 row affected (0.00 sec)
←#246#root@localhost /tmp →innobackupex --incremental /tmp/full-backup/ --incremental-basedir=/tmp/full-backup/2015-06-25_05-58-26/ #做增量备份
InnoDB Backup Utility v1.5.1-xtrabackup; Copyright 2003, 2009 Innobase Oy
and Percona LLC and/or its affiliates 2009-2013. All Rights Reserved.。。。。。。。。。。。xtrabackup: Creating suspend file '/tmp/full-backup/2015-06-25_06-00-48/xtrabackup_log_copied' with pid '8663'
xtrabackup: Transaction log of lsn (2988209) to (2988209) was copied.
150625 06:00:53 innobackupex: All tables unlocked
innobackupex: Backup created in directory '/tmp/full-backup/2015-06-25_06-00-48'
innobackupex: MySQL binlog position: filename 'mysql-bin.000001', position 2924
150625 06:00:53 innobackupex: Connection to database server closed
150625 06:00:53 innobackupex: completed OK!
mysql> insert into tutors(tname) values('stu00014'); #再次插入数据
Query OK, 1 row affected (0.02 sec)
mysql> insert into tutors(tname) values('stu00015');
Query OK, 1 row affected (0.00 sec)
←#247#root@localhost /tmp →innobackupex --incremental /tmp/full-backup/ --incremental-basedir=/tmp/full-backup/2015-06-25_06-00-48 #再次做增量备份
InnoDB Backup Utility v1.5.1-xtrabackup; Copyright 2003, 2009 Innobase Oy
and Percona LLC and/or its affiliates 2009-2013. All Rights Reserved。。。。。。。。。xtrabackup: Creating suspend file '/tmp/full-backup/2015-06-25_06-02-41/xtrabackup_log_copied' with pid '9259'
xtrabackup: Transaction log of lsn (2988781) to (2988781) was copied.
150625 06:02:45 innobackupex: All tables unlocked
innobackupex: Backup created in directory '/tmp/full-backup/2015-06-25_06-02-41'
innobackupex: MySQL binlog position: filename 'mysql-bin.000001', position 3465
150625 06:02:46 innobackupex: Connection to database server closed
150625 06:02:46 innobackupex: completed OK!
←#266#root@localhost /tmp/full-backup/2015-06-25_05-58-26 →cat xtrabackup_checkpoints #查看日志序列号是否一致
backup_type = log-applied
from_lsn = 0
to_lsn = 2987626
last_lsn = 2987626
compact = 0
←#267#root@localhost /tmp/full-backup/2015-06-25_05-58-26 →cd ../2015-06-25_06-00-48/
←#268#root@localhost /tmp/full-backup/2015-06-25_06-00-48 →cat xtrabackup_checkpoints
backup_type = incremental
from_lsn = 2987626
to_lsn = 2988209
last_lsn = 2988209
compact = 0
←#269#root@localhost /tmp/full-backup/2015-06-25_06-00-48 →cd ../2015-06-25_06-02-41/
←#270#root@localhost /tmp/full-backup/2015-06-25_06-02-41 →cat xtrabackup_checkpoints
backup_type = incremental
from_lsn = 2988209
to_lsn = 2988781
last_lsn = 2988781
compact = 0
←#248#root@localhost /tmp →innobackupex --apply-log --redo-only /tmp/full-backu2015-06-25_05-58-26/ #做准备
InnoDB Backup Utility v1.5.1-xtrabackup; Copyright 2003, 2009 Innobase Oy
and Percona LLC and/or its affiliates 2009-2013. All Rights Reserved.
[notice (again)]
If you use binary log and don't use any hack of group commit,
the binary log position seems to be:
InnoDB: Last MySQL binlog file position 0 2241, file name ./mysql-bin.000001
xtrabackup: starting shutdown with innodb_fast_shutdown = 1
InnoDB: Starting shutdown...
InnoDB: Shutdown completed; log sequence number 2987626
150625 06:04:03 innobackupex: completed OK!
←#249#root@localhost /tmp →innobackupex --apply-log --redo-only /tmp/full-backu2015-06-25_05-58-26/ --incremental-dir=/tmp/full-backup/2015-06-25_06-00-48/ #合并第一次增量备份文件。。。。。。。。。。innobackupex: Copying '/tmp/full-backup/2015-06-25_06-00-48/management/admin.frm' to '/tmp/full-backup/2015-06-25_05-58-26/management/admin.frm'
150625 06:05:28 innobackupex: completed OK!
←#251#root@localhost /tmp →innobackupex --apply-log --redo-only /tmp/full-backu2015-06-25_05-58-26/ --incremental-dir=/tmp/full-backup/2015-06-25_06-02-41/ #合并第二次增量备份文件。。。。。。。。。。。。。。。。innobackupex: Copying '/tmp/full-backup/2015-06-25_06-02-41/management/classinfo.frm' to '/tmp/full-backup/2015-06-25_05-58-26/management/classinfo.frm'
innobackupex: Copying '/tmp/full-backup/2015-06-25_06-02-41/management/admin.frm' to '/tmp/full-backup/2015-06-25_05-58-26/management/admin.frm'
150625 06:07:10 innobackupex: completed OK!
←#258#root@localhost ~ →rm -rf /mydata/data1/* #删除数据文件目录
←#259#root@localhost ~ →innobackupex --copy-back /tmp/full-backup/2015-06-25_05-58-26/ #恢复。。。。。。。。。。。。。。。。innobackupex: Starting to copy InnoDB log files
innobackupex: in '/tmp/full-backup/2015-06-25_05-58-26'
innobackupex: back to original InnoDB log directory '/mydata/data1'
innobackupex: Finished copying back files.
150625 06:12:29 innobackupex: completed OK!
←#276#root@localhost /mydata/data1 →chown -R mysql.mysql ./* #修改属主和属组