如何使用HammerDB进行MySQL基准测试

背 景


服务器配置:960G sandisk单盘SSD,32 core,128G内存;

数据库关键参数:innodb_buffer_pool_size=72G,双一,innodb_log_file_size=4G,innodb_log_buffer_size=128M,innodb_buffer_pool_instances=32;


1、HammerDB安装与配置



1.1. 什么是hammerdb

HammerDB是针对Oracle,Microsoft SQL Server,IBM DB2,TimesTen,MySQL,MariaDB,PostgreSQL,Postgres Plus Advanced Server等数据以及Greenplum,Redis,Amazon Aurora和Redshift以及Hadoop上的传统 SQL的开源数据库负载测试和基准测试工具。

可以模拟TPC-C测试模型(是在线事务处理OLTP的基准程序),主要用于模拟一个批发商的货物管理环境,测试结果由TPC-C吞吐率衡量,标准测试模型中的单位是tpmC(在hammerdb中,测试结果的单位是tpm,不是tpmC。tpm表示每分钟的事务交易数量。tpmC是TPC-C的事务交易单位)。

扫描二维码关注公众号,回复: 887735 查看本文章

也可以模拟TPC-H测试模型(是在线分析处理OLAP的基准程序),主要用来模拟供应商和采购商之间的交易行为,测试结果由TPCH Power来衡量,该值与数据量和交易平均时间有关,表示一个小时内能够完成的复杂交易的数量。


1.2. 安装


下载hammerdb安装包

wget https://nchc.dl.sourceforge.net/project/hammerora/HammerDB/HammerDB-2.23/HammerDB-2.23-Linux-x86-64-Install


下载文件是一个安装程序,直接执行这个程序进行安装

[root@master /root]

#chmod +x HammerDB-2.23-Linux-x86-64-Install

[root@master /root]

#./HammerDB-2.23-Linux-x86-64-Install

This will install HammerDB on your computer.  Continue? [n/Y] y

Where do you want to install HammerDB? [/usr/local/HammerDB-2.23]

Installing HammerDB...

Installing Program Files...                                                  

Installation complete.  


查看安装目录

[root@master /root]

#cd /usr/local/HammerDB-2.23/

[root@master /usr/local/HammerDB-2.23]

#ll

total 1508

drwx------  2 root    4096 Dec  5 15:51 agent

drwxr-xr-x  2 root    4096 Dec  5 15:51 bin

-rw-r--r--  1 root  25744 Jun 16 19:24 ChangeLog

-rw-r--r--  1 root  13789 Jun  8 01:05 config.xml

-rw-r--r--  1 root    618 Dec 20  2016 COPYRIGHT

-rw-r--r--  1 root  18009 Feb 16  2013 hammerdb.license

-rwxr--r--  1 root    7050 Mar 14  2017 hammerdb.tcl

drwxr-xr-x  2 root    4096 Dec  5 15:51 hdb-components

drwxr-xr-x  2 root    4096 Dec  5 15:51 hdb-modules

drwxr-xr-x  2 root    4096 Dec  5 15:51 include

drwxr-xr-x 21 root    4096 Dec  5 15:51 lib

-rw-r--r--  1 root    883 Mar 14  2017 readme

-rwxr-xr-x  1 root 1433874 Dec  5 15:51 uninstall


1.3. 配置


环境变量

[root@master /usr/local/HammerDB-2.23]

#export MYSQL_HOME=/usr/local/mysql/


[root@master /usr/local/HammerDB-2.23]

#echo 'export MYSQL_HOME=/usr/local/mysql/' >> /etc/profile


[root@master /usr/local/HammerDB-2.23]

#export LD_LIBRARY_PATH=/usr/local/HammerDB-2.23/lib/:$MYSQL_HOME/lib


[root@master /usr/local/HammerDB-2.23]

#echo 'export LD_LIBRARY_PATH=/usr/local/HammerDB-2.23/lib/:$MYSQL_HOME/lib' >> /etc/profile


[root@master /usr/local/HammerDB-2.23]

#export PATH=$MYSQL_HOME/bin:$PATH


[root@master /usr/local/HammerDB-2.23]

#echo 'export PATH=$MYSQL_HOME/bin:$PATH' >> /etc/profile


安装hammerdb GUI依赖包

[root@master /usr/local/HammerDB-2.23]

#yum install libXScrnSaver xorg-x11-fonts* -y


验证环境变量

[root@master /usr/local/HammerDB-2.23]

#cd /usr/local/HammerDB-2.23/


[root@master /usr/local/HammerDB-2.23]

#ll

total 1512

drwxr-xr-x 2 root    4096 Dec  5 09:29 bin

-rw-r--r-- 1 root  13849 Apr  7  2011 ChangeLog

-rw-r--r-- 1 root    4287 Apr  7  2011 config.xml

-rw-r--r-- 1 root    609 Mar 30  2011 COPYRIGHT

-rw-r--r-- 1 root  18009 Mar 14  2007 hammerora.license

-rwxr--r-- 1 root  38983 Mar 30  2011 hammerora.tcl

drwxr-xr-x 2 root    4096 Dec  5 09:29 hora-components

drwxr-xr-x 2 root    4096 Dec  5 09:29 include

drwxr-xr-x 9 root    4096 Dec  5 09:29 lib

-rw-r--r-- 1 root    608 Mar 30  2011 readme

-rwxr-xr-x 1 root 1434065 Dec  5 09:29 uninstall


[root@master /usr/local/HammerDB-2.23]

#./bin/tclsh8.6

% package require mysqltcl  # 检测环境变量

3.05  # 这个地方如果正常输出一个版本号而无报错,说明环境变量配置生效

% exit  # 退出交互窗口


补充:如果安装了sysbench 1.0,则可能报如下错误

[root@master /usr/local/HammerDB-2.23]

#./bin/tclsh8.6

% package require mysqltcl

couldn't load file "/usr/local/HammerDB-2.23/lib/mysqltcl-3.052/libmysqltcl3.052.so": /usr/lib64/libmysqlclient.so.18: version `libmysqlclient_18' not found (required by /usr/local/HammerDB-2.23/lib/mysqltcl-3.052/libmysqltcl3.052.so)


# 此时,我们把sysbench 1.0中percona的那个依赖包软链去掉,就可以了

[root@master /root]

#locate libmysqlclient.so.18

/home/mysql/program/mysql-5.6.34-linux-glibc2.5-x86_64/lib/libmysqlclient.so.18

/home/mysql/program/mysql-5.6.34-linux-glibc2.5-x86_64/lib/libmysqlclient.so.18.1.0

/home/woqu/qdata-dev-env/mysql5.5.25a/lib/libmysqlclient.so.18

/home/woqu/qdata-dev-env/mysql5.5.25a/lib/libmysqlclient.so.18.0.0

/usr/lib64/libmysqlclient.so.18


[root@master /root]

#ll /usr/lib64/libmysqlclient.so.18

lrwxrwxrwx 1 root 22 Nov  1 11:56 /usr/lib64/libmysqlclient.so.18 -> libmysqlclient_r.so.16


[root@master /root]

#unlink /usr/lib64/libmysqlclient.so.18


[root@master /root]

#ln -s /home/mysql/program/mysql-5.6.34-linux-glibc2.5-x86_64/lib/libmysqlclient.so.18 /usr/lib64/libmysqlclient.so.18


# 如果需要使用sysbench 1.0时,重新换一下软链即可,当然,由于这里我们是使用的MySQL 5.6.x的lib库,两者都可以使用,无需换软链


修改配置文件

所有HammerDB的工作数据都可以在hammerdb界面启动之后,使用菜单选项进行临时设置。 但是,如果你经常需要做某个测试,希望这些配置持久化而不需要每次都去临时设置,那么你可以在HammerDB的工作目录下名为config.xml的配置文件中进行设置,该配置文件将在hammerdb启动时读取。

在这个文件中,您可以通过编辑xml文件来预设模式构建和驱动程序配置,而无需每次都去临时手动更改。 如果你的xml文件格式正确(无格式错误),当你在测试过程中选择对应的菜单选项时,你在xml文件中设置的变量将被应用到HammerDB上,例如(这里我们只看mysql的tpc-c部分):

[root@master /usr/local/HammerDB-2.23]

#pwd

/usr/local/hammerora-2.6


[root@master /usr/local/HammerDB-2.23]

#cat config.xml

<?xml version="1.0" encoding="utf-8"?>

<hammerdb>

...

<benchmark>

       <rdbms>Oracle</rdbms>

       <bm>TPC-C</bm>

</benchmark>

<oracle>

...

</oracle>

...

<mysql>

   <connection>

       <mysql_host>127.0.0.1</mysql_host>

       <mysql_port>3306</mysql_port>

   </connection>

       <tpcc>

       <schema>

           <my_count_ware>128</my_count_ware>

           <mysql_num_threads>128</mysql_num_threads>

           <mysql_user>hammerdb</mysql_user>

           <mysql_pass>hammerdb</mysql_pass>

           <mysql_dbase>tpcc</mysql_dbase>

           <storage_engine>innodb</storage_engine>

           <mysql_partition>false</mysql_partition>

       </schema>

       <driver>

           <my_total_iterations>1000000</my_total_iterations>

           <my_raiseerror>false</my_raiseerror>

           <my_keyandthink>false</my_keyandthink>

           <mysqldriver>standard</mysqldriver>

           <my_rampup>2</my_rampup>

           <my_duration>5</my_duration>

           <my_allwarehouse>false</my_allwarehouse>

           <my_timeprofile>false</my_timeprofile>

       </driver>

   </tpcc>

...

</mysql>

...

</hammerdb>


补充

  • mysql_num_threads设置一定不能比my_count_ware仓库数量大,否则后面造数会卡在创建存储过程的地方

  • 生产环境压测,仓库建议不少于100个,仓库数量太少时,并发线程数(虚拟用户数量)增加时,会有大量线程因为操作同一行记录而导致大量锁等待(基本在commit阶段)

  • 生产环境中my_total_iterations中总的迭代查询量不建议不低于500W,这里为了快速演示,保留默认的100W

  • 由于hammerdb是GUI界面的,需要使用securecrt或xshell等终端工具配置X11协议转发,且最好使用终端工具直连安装hammerdb的服务器,否则配置起来非常繁琐


登录待测试的MySQL实例,创建测试账号

mysql> grant all on tpcc.* to hammerdb@'%' identified by 'hammerdb';

Query OK, 0 rows affected, 1 warning (0.03 sec)

mysql>


1.4. 启动


启动hammerdb

[root@master /usr/local/HammerDB-2.23]

#cd /usr/local/HammerDB-2.23/


[root@master /usr/local/HammerDB-2.23]

#./hammerdb.tcl


启动之后界面如下 


补充:

如果在xshell和securecrt终端启动报错,请按照如下链接介绍的方法处理(mac版本的securecrt可能因为部分版本有BUG,无法弹窗,那就用虚拟机吧,虽然xshell可以弹窗,但是确没有mac版本)

http://www.itshuji.com/technical-article/1764.html

注意,配置完成后需要关闭现有终端的连接,并重新连接才会生效


2、如何使用hammerdb测试MySQL



2.1. 在GUI窗口进行配置与造数

双击左侧MySQL,如下图 


在弹出的窗口中,选择MySQL和TPC-C,如下图 


切换基准测试数据库类型之后,依次展开TPC-C->Schema Build,并双击Options 


在弹出的窗口中,配置好相关的参数(由于之前我们配置过config.xml文件,所以这里已经有填写好的默认值了,这里无需再填写),如下图:


然后点击如下图所示的"build"或者按钮,开始创建基准测试数据库:


然后,可以看到如下输出信息,注意:下面1,2,3,4,5,6…这个输出行的status列不能出现一把红叉的情况,如果有则表示发生了报错,当worker完成后,监视线程会创建索引、存储过程并收集统计信息。虚拟用户1将显示信息“TPCC SCHEMA COMPLETE”字样,其他所有虚拟用户将显示已成功完成其操作的字样,如果没有看到,则说发生了错误。可以在最下方的文本输出框查看报错信息 :


现在,我们使用MySQL命令行客户端登录数据库,可以查看到当前的一些连接进程和数据库表:

mysql> show processlist;

......

| 7173 | hammerdb | 10.10.30.14:44066 | tpcc              | Query  |    1 | update            | insert into stock (`s_i_id`, `s_w_id`, `s_quantity`, `s_dist_01`, `s_dist_02`, `s_dist_03`, `s_dist_ |

| 7174 | hammerdb | 10.10.30.14:44067 | tpcc              | Sleep  |    1 |                  | NULL                                                                                                |

| 7175 | hammerdb | 10.10.30.14:44068 | tpcc              | Sleep  |    2 |                  | NULL                                                                                                |

| 7176 | hammerdb | 10.10.30.14:44069 | tpcc              | Sleep  |    1 |                  | NULL                                                                                                |

| 7177 | hammerdb | 10.10.30.14:44070 | tpcc              | Query  |    0 | starting          | insert into stock (`s_i_id`, `s_w_id`, `s_quantity`, `s_dist_01`, `s_dist_02`, `s_dist_03`, `s_dist_ |

| 7178 | hammerdb | 10.10.30.14:44071 | tpcc              | Sleep  |    1 |                  | NULL                                                                                                |

+------+----------+-------------------+--------------------+---------+------+-------------------+------------------------------------------------------------------------------------------------------+

131 rows in set (0.00 sec)


mysql> use tpcc

Reading table information for completion of table and column names

You can turn off this feature to get a quicker startup with -A


Database changed

mysql> show tables;

+----------------+

| Tables_in_tpcc |

+----------------+

| customer      |

| district      |

| history        |

| item          |

| new_order      |

| order_line    |

| orders        |

| stock          |

| warehouse      |

+----------------+

9 rows in set (0.00 sec)


造数完成之后,可以看到“TPCC SCHEMA COMPLETE”字样,如下图:


schema创建完成之后,我们可以登录数据库中简单查询以下数据(注意:如果以下三个语句任意一个查询到无结果,说明造数失败,会导致后续load测试无法进行)

# 查询表中的数据

mysql> use tpcc

Database changed

mysql> select * from warehouse limit 1 \G

*************************** 1. row ***************************

     w_id: 1

   w_ytd: 3000000.00

   w_tax: 0.1700

   w_name: QDomcHSyn

w_street_1: hEvTR42ePpREnM

w_street_2: 0JfWR5A2quAudxrLyA

   w_city: EzRKodmYv0

 w_state: 9l

   w_zip: 966011111

1 row in set (0.00 sec)


# 查询表中的索引

mysql> show indexes from warehouse \G

*************************** 1. row ***************************

       Table: warehouse

 Non_unique: 0

   Key_name: PRIMARY

Seq_in_index: 1

 Column_name: w_id

   Collation: A

 Cardinality: 10

   Sub_part: NULL

     Packed: NULL

       Null:

 Index_type: BTREE

     Comment:

Index_comment:

1 row in set (0.00 sec)


# 查询存储过程

mysql> select routine_name from information_schema.routines where routine_schema = 'TPCC';

+--------------+

| routine_name |

+--------------+

| DELIVERY    |

| NEWORD      |

| OSTAT        |

| PAYMENT      |

| SLEV        |

+--------------+

5 rows in set (0.01 sec)


2.2. 使用hammerdb进行oltp基准测试


前面2.1小节已经按照tpc-c模型(oltp模型)创建好了测试库tpcc,现在,我们基于tpcc库进行oltp测试

造数完成之后,我们点击"Destroy Virtual Users"按钮停止造数的进程:


然后左侧列表双击"Driver Script" :


弹出如下图对话框,这里有两个TPC-C驱动程序脚本,您可以选择标准驱动程序脚本(Standard Driver Script)或定时测试驱动程序脚本(Timed Test Driver Script),此选项选择不同的值会动态修改掉左侧"Driver Script"下的"Load"加载的脚本内容,该脚本是由左侧菜单"Virtual User"配置的虚拟用户运行的脚本,用于执行基准测试。这两种选项加载的不同驱动程序脚本的区别如下:

  • Standard Driver Script:不定时,用于无法估计测试时长或者想手动选择恰当的时机终止的场景,选择该脚本,在Virtual User Output标签页中或输出日志文件中会打印具体的执行SQL

  • Timed Test Driver Script:指定测试时长的驱动程序脚本,选择该项可以设置Minutes of Rampup Time和Minutes for Test Duration两个配置项,前者是指定预热时长,后者是指定总的基准测试时长,选择该脚本,在Virtual User Output标签页或输出日志文件中,只有虚拟用户列表,不打印具体的SQL


补充:

为了方便演示基准测试曲线,我们这里选择第一种,如下图 


双击左侧菜单"Virtual User"下的"Load",载入标准测试驱动程序脚本


然后,创建虚拟用户。

注意:虚拟用户有一个主用户,用于收集其他虚拟用户的统计值和返回状态,主用户包含在你指定的用户数量之内,因此,如果你希望有128个用户(128个并发连接数),那么,你需要创建129个用户,如下图,双击"Virtual User"下的"Options",弹出如下窗口 


要注意:

下图中的"Show Output"选项建议勾选,否则基准压测过程中的相关日志输出无法打印(Virtual User Output标签页)

  • Show Output:勾选之后会打印虚拟用户列表和相关的日志输出到Virtual User Output标签页

  • Log Output to Temp:勾选之后会创建/tmp/hammerdb.log文件,用于存放压测过程中的日志输出信息

  • Use Unique Log Name:勾选之后会为每次压测创建一个唯一的日志输出文件,用于存放压测过程中的日志输出信息,例如:/tmp/hammerdb_5A267C6555F903E273734353.log

  • No Log Buffer:勾选之后不缓冲日志 :


然后双击"Virtual User"下的"Create"按钮,创建虚拟用户(准备要并发连接线程,注意此时数据库中并未真正创建连接) :


然后双击左侧"Virtual User"下的"Run",开始执行基准测试 :


此时,登录到数据库中,你可以发现有129个hammerdb用户的线程在运行

mysql> show processlist;

......

| 7302 | hammerdb | 10.10.30.14:44195 | tpcc | Query  |    0 | closing tables    | COMMIT                                                                                              |

| 7303 | hammerdb | 10.10.30.14:44196 | tpcc | Sleep  |    0 |                  | NULL                                                                                                |

| 7304 | hammerdb | 10.10.30.14:44197 | tpcc | Query  |    0 | query end        | INSERT INTO order_line (ol_o_id, ol_d_id, ol_w_id, ol_number, ol_i_id, ol_supply_w_id, ol_quantity,  |

| 7305 | hammerdb | 10.10.30.14:44198 | tpcc | Query  |    0 | updating          | UPDATE order_line SET ol_delivery_d = timestamp

WHERE ol_o_id = d_no_o_id AND ol_d_id = d_d_id AND

o |

| 7306 | hammerdb | 10.10.30.14:44199 | tpcc | Query  |    0 | optimizing        | SELECT s_quantity, s_data, s_dist_01, s_dist_02, s_dist_03, s_dist_04, s_dist_05, s_dist_06, s_dist_ |

| 7307 | hammerdb | 10.10.30.14:44200 | tpcc | Sleep  |    0 |                  | NULL                                                                                                |

| 7308 | hammerdb | 10.10.30.14:44201 | tpcc | Query  |    0 | NULL              | COMMIT                                                                                              |

+------+----------+-------------------+------+---------+------+-------------------+------------------------------------------------------------------------------------------------------+

131 rows in set (0.00 sec)


此时,我们需要查看tpm的值,可以点击如下图所示的按钮:


然后,可以从如下图所示的窗口中,等待几十秒即可看到数值,再过一会就可以看到曲线图,使用曲线图可以更直观地发现性能抖动问题 :


如果要终止测试和终止tpm统计输出,可以依次点击如下图所示的两个按钮(第一个表示终止基准测试,第二个表示终止tpm统计输出):


3、总 结


我们平时测试MySQL时,大多数时候都是使用的sysbench、tpcc-mysql等基准测试工具,现在,你可以尝试着使用hammerdb来对MySQL做一做基准测试,虽然HammerDB测试工具大多数时候我们听到的都是用于Oracle测试。但却不失为一种选择。另外,前面提到过,HammerDB还支持olap场景的基准测试,大家有兴趣的可以试一试。


参考资料:

http://www.hammerdb.com/hammerdb_mysql_oltp.pdf

http://www.hammerdb.com/hammerdb_quickstart_mysql.pdf

猜你喜欢

转载自blog.csdn.net/woqutechteam/article/details/78901909
今日推荐