阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

数据库性能测试:sysbench使用方法详解

230次阅读
没有评论

共计 9168 个字符,预计需要花费 23 分钟才能阅读完成。

1. 简介和安装

sysbench 是一个很不错的数据库性能测试工具。

官方站点:https://github.com/akopytov/sysbench/

rpm 包下载:https://packagecloud.io/akopytov/sysbench/packages/el/7/sysbench-1.0.15-1.el7.CentOS.x86_64.rpm

源码包下载:https://github.com/akopytov/sysbench/archive/1.0.15.tar.gz

如果是编译安装,需要先安装好 mysql 的开发包 (尽管编译错误时提示的是缺少 Mysql 库文件)。
yum -y install mysql-community-devel

tar xf 1.0.15.tar.gz
cd sysbench-1.0.15
./autogen.sh
./configure
make -j
make install

安装后,只有一个二进制文件 sysbench,还提供了很多个 lua 脚本。
[root@s1 ~]# rpm -ql sysbench | grep ‘bin\|lua’ 
/usr/bin/sysbench
/usr/share/sysbench/bulk_insert.lua
/usr/share/sysbench/oltp_common.lua
/usr/share/sysbench/oltp_delete.lua
/usr/share/sysbench/oltp_insert.lua
/usr/share/sysbench/oltp_point_select.lua
/usr/share/sysbench/oltp_read_only.lua
/usr/share/sysbench/oltp_read_write.lua
/usr/share/sysbench/oltp_update_index.lua
/usr/share/sysbench/oltp_update_non_index.lua
/usr/share/sysbench/oltp_write_only.lua
/usr/share/sysbench/select_random_points.lua
/usr/share/sysbench/select_random_ranges.lua
/usr/share/sysbench/tests/include/inspect.lua
/usr/share/sysbench/tests/include/oltp_legacy/bulk_insert.lua
/usr/share/sysbench/tests/include/oltp_legacy/common.lua
/usr/share/sysbench/tests/include/oltp_legacy/delete.lua
/usr/share/sysbench/tests/include/oltp_legacy/insert.lua
/usr/share/sysbench/tests/include/oltp_legacy/oltp.lua
/usr/share/sysbench/tests/include/oltp_legacy/oltp_simple.lua
/usr/share/sysbench/tests/include/oltp_legacy/parallel_prepare.lua
/usr/share/sysbench/tests/include/oltp_legacy/select.lua
/usr/share/sysbench/tests/include/oltp_legacy/select_random_points.lua
/usr/share/sysbench/tests/include/oltp_legacy/select_random_ranges.lua
/usr/share/sysbench/tests/include/oltp_legacy/update_index.lua
/usr/share/sysbench/tests/include/oltp_legacy/update_non_index.lua

本文介绍的是新版本 sysbench oltp lua 脚本的用法 (/usr/share/sysbench/*.lua),所以不涉及传统的 lua(tests/include/oltp_legacy/*.lua),如果想要了解这些传统 Lua 脚本的用法,网上随便找。

2.sysbench 使用方法

以下列出了 sysbench 对测试 mysql 时常用的选项。
[root@xuexi ~]# sysbench –help
Usage:
  sysbench [options]… [test_lua] [lua_options] [command]

Commands implemented by most tests: prepare run cleanup help

通用选项:以下中括号中的值表示默认值
  –threads=N                    指定线程数 [1]
  –events=N                      限制最大请求数,0 表示不限制 [0]
  –time=N                        限制最长执行时间,0 表示不限制 [10]
                    –events 和 –time 二者选一即可
  –forced-shutdown=STRING        达到最长执行时间后还需等待多久关闭 sysbench
                                  off 表示禁用该功能 [off]
  –thread-stack-size=SIZE        每个线程使用的栈空间大小 [64K]
  –rate=N                        平均事务处理速率,0 表示不限制 [0]
  –report-interval=N            每隔几秒报告一次结果,0 表示禁用间隔报告 [0]
  –config-file=FILENAME          从文件中读取命令行选项
  –tx-rate=N                    已废弃,是 –rate 的别名 [0]
  –max-requests=N                已废弃,是 –events 的别名 [0]
  –max-time=N                    已废弃,是 –time 的别名 [0]
  –num-threads=N                已废弃,是 –threads 的别名 [1]

mysql 相关选项:
  –mysql-host=[LIST,…]          MySQL server host [localhost]
  –mysql-port=[LIST,…]          MySQL server port [3306]
  –mysql-socket=[LIST,…]        MySQL socket
  –mysql-user=STRING              MySQL user [sbtest]
  –mysql-password=STRING          MySQL password []
  –mysql-db=STRING                MySQL database name [sbtest]
  –mysql-ignore-errors=[LIST,…] 要忽略的错误代码,值可为 ”all” [1213,1020,1205]

Compiled-in tests:
  fileio – File I/O test
  cpu – CPU performance test
  memory – Memory functions speed test
  threads – Threads subsystem performance test
  mutex – Mutex performance test

其中,command 部分有 4 类:prepare run cleanup 和 help:
•prepare:准备数据的命令。例如,在 sysbench 压力测试之前,需要先准备好测试库、测试表以及测试表中的数据。具体用法见后文。

•run:表示进行压力测试。

•cleanup:清除测试时产生的数据。

•help:输出给定 lua 脚本的帮助信息。

test_lua 是想要使用的 lua 脚本,如果是 rpm 包安装的 sysbench,则这些脚本都是 /usr/share/sysbench 目录下。对于一般的数据库测试,只需使用和 oltp 有关的 lua 脚本就足够。

options 和 lua_options 是不同的,options 是 sysbench 的选项,lua_options 是 lua 脚本的选项,lua_options 应该要放在 test_lua 的后面 (非必需,但建议)。

例如,要查看 oltp_common.lua 的用法,可以:
sysbench /usr/share/sysbench/oltp_common.lua help

3. 准备测试数据

首先创建 sysbench 所需数据库 sbtest(这是 sysbench 默认使用的库名,必须创建测试库)。
mysqladmin -h127.0.0.1 -uroot -pP@ssword1! -P3306 create sbtest;

然后,准备测试所用的表,这些测试表放在测试库 sbtest 中。这里使用的 lua 脚本为 /usr/share/sysbench/oltp_common.lua。
sysbench –mysql-host=127.0.0.1 \
        –mysql-port=3306 \
        –mysql-user=root \
        –mysql-password=P@ssword1! \
        /usr/share/sysbench/oltp_common.lua \
        –tables=10 \
        –table_size=100000 \
        prepare

其中 –tables=10 表示创建 10 个测试表,–table_size=100000 表示每个表中插入 10W 行数据,prepare 表示这是准备数的过程。
mysql> show tables from sbtest;
+——————+
| Tables_in_sbtest |
+——————+
| sbtest1          |
| sbtest10        |
| sbtest2          |
| sbtest3          |
| sbtest4          |
| sbtest5          |
| sbtest6          |
| sbtest7          |
| sbtest8          |
| sbtest9          |
+——————+

mysql> select count(*) from sbtest.sbtest1;
+———-+
| count(*) |
+———-+
|  100000 |
+———-+

如果想要清除这 10 个表,可使用 cleanup 命令。
sysbench –mysql-host=127.0.0.1 \
        –mysql-port=3306 \
        –mysql-user=root \
        –mysql-password=P@ssword1! \
        /usr/share/sysbench/oltp_common.lua \
        –tables=10 \
        cleanup

4. 数据库测试和结果分析

稍微修改下之前准备数据的语句,就可以拿来测试了。

需要注意的是,之前使用的 lua 脚本为 oltp_common.lua,它是一个通用脚本,是被其它 lua 脚本调用的,它不能直接拿来测试。

所以,我这里用 oltp_read_write.lua 脚本来做读、写测试。还有很多其它类型的测试,比如只读测试、只写测试、删除测试、大批量插入测试等等。可找到对应的 lua 脚本进行调用即可。
sysbench –threads=4 \
        –time=20 \
        –report-interval=5 \
        –mysql-host=127.0.0.1 \
        –mysql-port=3306 \
        –mysql-user=root \
        –mysql-password=P@ssword1! \
        /usr/share/sysbench/oltp_read_write.lua \
        –tables=10 \
        –table_size=100000 \
        run

以下是测试返回的结果:
Initializing worker threads…

Threads started!

#### 以下是每 5 秒返回一次的结果,统计的指标包括:
#### 线程数、tps(每秒事务数)、qps(每秒查询数)、
#### 每秒的读 / 写 / 其它次数、延迟、每秒错误数、每秒重连次数
[5s] thds: 4 tps: 130.16 qps: 2606.30 (r/w/o: 1824.51/520.66/261.13) lat (ms,95%): 104.84 err/s: 0.00 reconn/s: 0.00
[10s] thds: 4 tps: 126.74 qps: 2539.17 (r/w/o: 1778.17/507.52/253.47) lat (ms,95%): 108.68 err/s: 0.00 reconn/s: 0.00
[15s] thds: 4 tps: 136.54 qps: 2736.34 (r/w/o: 1915.25/548.01/273.07) lat (ms,95%): 102.97 err/s: 0.00 reconn/s: 0.00
[20s] thds: 4 tps: 107.44 qps: 2148.65 (r/w/o: 1505.60/428.17/214.89) lat (ms,95%): 132.49 err/s: 0.00 reconn/s: 0.00

SQL statistics:
    queries performed:
        read:          35098  # 执行的读操作数量
        write:        10028  # 执行的写操作数量
        other:        5014    # 执行的其它操作数量
        total:        50140
    transactions:      2507  (124.29 per sec.)    # 执行事务的平均速率
    queries:          50140  (2485.82 per sec.)  # 平均每秒能执行多少次查询
    ignored errors:    0      (0.00 per sec.)
    reconnects:        0      (0.00 per sec.)

General statistics:
    total time:                  20.1694s    # 总消耗时间
    total number of events:      2507        # 总请求数量 (读、写、其它)

Latency (ms):
        min:                            2.32
        avg:                          32.13
        max:                          575.78
        95th percentile:              118.92    # 采样计算的平均延迟
        sum:                        80554.96

Threads fairness:
    events (avg/stddev):          626.7500/2.49
    execution time (avg/stddev):  20.1387/0.04

5.cpu/io/ 内存等测试

sysbench 内置了几个测试指标。
Compiled-in tests:
  fileio – File I/O test
  cpu – CPU performance test
  memory – Memory functions speed test
  threads – Threads subsystem performance test
  mutex – Mutex performance test

可直接 help 输出测试方法。例如,fileio 测试。
[root@xuexi ~]# sysbench fileio help
sysbench 1.0.15 (using bundled LuaJIT 2.1.0-beta2)

fileio options:
  –file-num=N                  number of files to create [128]
  –file-block-size=N          block size to use in all IO operations [16384]
  –file-total-size=SIZE        total size of files to create [2G]
  –file-test-mode=STRING      test mode {seqwr, seqrewr, seqrd, rndrd, rndwr, rndrw}
  –file-io-mode=STRING        file operations mode {sync,async,mmap} [sync]
  –file-async-backlog=N        number of asynchronous operatons to queue per thread [128]
  –file-extra-flags=[LIST,…] list of additional flags to use to open files {sync,dsync,direct} []
  –file-fsync-freq=N          do fsync() after this number of requests (0 – don’t use fsync()) [100]
  –file-fsync-all[=on|off]    do fsync() after each write operation [off]
  –file-fsync-end[=on|off]    do fsync() at the end of test [on]
  –file-fsync-mode=STRING      which method to use for synchronization {fsync, fdatasync} [fsync]
  –file-merged-requests=N      merge at most this number of IO requests if possible (0 – don’t merge) [0]
  –file-rw-ratio=N            reads/writes ratio for combined test [1.5]

例如,创建 5 个文件,总共 1G,每个文件大概 200M。
sysbench fileio –file-num=5 –file-total-size=1G prepare

[root@xuexi ~]# ls -lh test*
-rw——- 1 root root 205M Jul  8 12:15 test_file.0
-rw——- 1 root root 205M Jul  8 12:15 test_file.1
-rw——- 1 root root 205M Jul  8 12:15 test_file.2
-rw——- 1 root root 205M Jul  8 12:15 test_file.3
-rw——- 1 root root 205M Jul  8 12:15 test_file.4

然后,运行测试。
sysbench –events=5000 \
        –threads=16 \
        fileio \
        –file-num=5 \
        –file-total-size=G \
        –file-test-mode=rndrw \
        –file-fsync-freq=0 \
        –file-block-size=16384 \
        run

结果:
File operations:
    reads/s:                      98.67
    writes/s:                    66.85
    fsyncs/s:                    6.26

Throughput:    # 吞吐量
    read, MiB/s:                  1.54  # 表示读的带宽
    written, MiB/s:              1.04  # 表示读的带宽

General statistics:
    total time:                  12.7426s
    total number of events:      2117

Latency (ms):
        min:                          0.00
        avg:                        86.66
        max:                      2919.41
        95th percentile:            646.19
        sum:                    183460.80

Threads fairness:
    events (avg/stddev):          132.3125/24.19
    execution time (avg/stddev):  11.4663/1.09

再比例 cpu 性能测试:
[root@xuexi ~]# sysbench cpu –threads=40 –events=10000 –cpu-max-prime=20000 run
sysbench 1.0.15 (using bundled LuaJIT 2.1.0-beta2)

Running the test with following options:
Number of threads: 40
Initializing random number generator from current time

Prime numbers limit: 20000

Initializing worker threads…

Threads started!

CPU speed:
    events per second:  2127.81

General statistics:
    total time:                          4.986s
    total number of events:              10000

Latency (ms):
        min:                                    1.72
        avg:                                  18.16
        max:                                  302.17
        5th percentile:                      110.66
        sum:                              181628.49

Threads fairness:
    events (avg/stddev):          250.0000/30.81
    execution time (avg/stddev):  4.5407/0.10

 

正文完
星哥说事-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-22发表,共计9168字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中