首页 > 数据库 >[转帖][数据库]000 - Sysbench 数据库压力测试工具

[转帖][数据库]000 - Sysbench 数据库压力测试工具

时间:2024-04-09 17:22:05浏览次数:24  
标签:-- 数据库 db 转帖 oltp mysql 测试工具 root sysbench

https://zhuanlan.zhihu.com/p/340527565

 

 

  • sysbench 是一个开源的、模块化的、跨平台的多线程性能测试工具,可以用来进行CPU、内存、磁盘I/O、线程、数据库的性能测试。目前支持的数据库有MySQLOraclePostgreSQL。以下操作都将以支持MySQL数据库为例进行。

 

1. Linux 上安装 sysbench 工具

 

  • 安装方式有两种,一种是通过 yum/apt 等来安装,另一种自己下载源码包来安装,笔者这里采用的是centos ,采用yum 安装
  • sysbench 的源码包下载地址: http://sourceforge.net/projects/sysbench ,采用源码安装的可转这里
  • 通过 yum 安装如下:
    • 设置 yum repo 仓库

 

curl -s https://packagecloud.io/install/repositories/akopytov/sysbench/script.rpm.sh | sudo bash

 

  • 安装

 

sudo yum -y install sysbench

 

  • 安装完检查是否成功

 

sysbench --version

 

 

 

 

2. 数据库测试用例准备

 

  • 我们这里测试的是 MySQL ,首先我们在数据库创建一个专门用来测试的库 test_db

 

 

 

 

  • 通过sysbench 创建20个测试表,每个表中创建100万数据,再通过10个线程对测试库发起访问,持续5分钟,对其进行压测

 

3. sysbench 构建表与数据

 

  • 执行下面命令准备数据

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable prepare

 

  • 上面命令的参数说明:
    • --db-driver=mysql : 表示数据库的驱动类型,我们使用的是 MySQL 所以填mysql ,如果使用 Oracle 则填写相应的oracle
    • --time=300 : 这个参数表示持续访问的时间 300秒
    • --threads=10 : 表示使用10个线程模拟并发访问
    • --report-interval=1 : 表示每隔一秒输出以此压测情况
    • --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root : 这一块的配置,就是基本的数据库链接信息,指定数据库IP ,端口,账号密码
    • --mysql-db=test_db --tables=20 --table_size=1000000 : 这三个参数设置,表示指定测试的库为test_db , 同时在这个库中构建20个表,并且每个表中构建出 100万条测试数据,表的名字会类似 sbtest1,sbtest2 这种格式
    • oltp_read_write : 表示执行oltp 数据库的读写测试
    • --db-ps-mode=disable : 禁止 ps 模式
    • prepare : 表示按照命令设置去构建出我们的数据,也就是对前面所有命令的执行方案

 

4. 全方位测试

1. 综合读写测试

  • 测试数据库的综合读写TPS ,使用 oltp_read_write 模式

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable run

 

注意:命令最后不再是 之前的 prepare,这里是 run ,表示运行压测,前面的是准备数据

 

  • 效果

 

 

 

 

  • 上面是直接输出到控制台,我们也可以将其全部记录在文件中,通过管道,| tee /tmp/mysysbench.log 整个命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable run | tee /tmp/mysysbench.log

2. 只读性能测试

  • 测试数据库的只读性能,使用 oltp_read_only 模式,命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_only --db-ps-mode=disable run

 

  • 结果:

 

 

 

 

  • 如果要输出到文件如上

3. 删除性能测试

  • 测试数据库的删除性能,使用模式:oltp_delete ,命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_delete --db-ps-mode=disable run

4. 更新索引字段测试

  • 测试数据库的更新索引字段的性能,使用模式:oltp_update_index , 命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_update_index --db-ps-mode=disable run

5. 更新非索引字段测试

  • 测试数据库中更新非索引字段的性能,使用模式:oltp_update_non_index, 命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_update_non_index --db-ps-mode=disable run

6. 插入性能测试

  • 测试数据库的数据插入性能,使用模式:oltp_insert,命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_insert --db-ps-mode=disable run

7. 写入性能测试

  • 测试数据库的写入性能,使用模式:oltp_write_only, 命令如下:

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_write_only --db-ps-mode=disable run

8. 清理数据

  • 前面命令进行了各种测试,在测试完之后我们可以通过下面的 cleanup 命令来清除构建的测试数据

 

sysbench --db-driver=mysql --time=300 --threads=10 --report-interval=1 --mysql-host=192.168.56.10 --mysql-port=3306 --mysql-user=root --mysql-password=root --mysql-db=test_db --tables=20 --table_size=1000000 oltp_read_write --db-ps-mode=disable cleanup

 

9. 压测结果分析

 

  • 通过上面的命令我们可以全方位的得到测试的结果,我们直接每个一秒输出一次结果,在控制台会输出类似下面的东西:

 

[ 31s ] thds: 10 tps: 350.35 qps: 5575.50 (r/w/o: 4874.81/0.00/700.69) lat (ms,95%): 36.89 err/s: 0.00 reconn/s: 0.00

 

  • 我们来解释一下其中的含义,首先[31s] 表示这是在第31秒的时候输出的一段压测统计结果,其他字段如下:
    • thds:10 : 表示当前有10个线程正在压测
    • tps:350.35 : 表示当前每秒执行了 350.35 个事务
    • qps:5575.50: 表示当前每秒可以执行 5575.50 个请求
    • (r/w/o: 4874.81/0.00/700.69) : 表示在每秒 5575.50 个请求中,有 4874.81 个读请求,0.00 个写请求,700.69 个其他请求,其实就是对 qps 的细化
    • lat (ms,95%): 36.89:表示 95% 的请求的延迟都在36.89 毫秒以下
    • err/s: 0.00 reconn/s: 0.00:表示有0个请求失败,发生了0次的网络重连

 

  • 在压测结束后会输出一个总的压测结果,如下:

 

 

 

 

  • 其中的参数的解释:

 

 

 

 

10. 常用监控命令

 

  • 在压测过程中我们要时刻关注服务器的 CPU 、磁盘I/O 、网络负载等信息,一旦发现任何一个超出一定负荷,则不适合再继续加大线程数来压测了
  • 一定要注意,压测的过程是要保证机器各项指标在正常范围内的最大负载,而不是我们不断的增大 sysbench 的线程数,不关系其他指标,这样即使机器每秒抗住了很高的qps ,但是这时候的机器已经是满负荷运行了,内存,cpu,网络带宽等都几乎被打满,这种情况机器随时可能挂掉,这时候的测压就没有什么代表性了,因为你不可能在生产者让它达到这样的负荷

观察 CPU 的的负荷

  • Linux下最常见的命令就是top 命令,可以输出详细的情况,如下:

 

 

 

 

  • 对于上面的输出,我们详细来分析一下,首先看第一行的输出

 

top - 16:24:21 up 13:41, 4 users, load average: 0.11, 3.10, 3.72

 

  • 16:24:21 : 表示当前的时间
  • up 13:41:表示已经运行了多长时间
  • 4 users:当前机器有几个用户在使用
  • load average: 0.11, 3.10, 3.72:这是核心。表示 CPU 在 一分钟、五分钟、十五分钟 内的平均负载情况,简单解释一下,假设我们是一个四核的CPU ,此时如果我们的CPU 负载是 0.15 ,那么表示这四个核心中连一个核心都没使用满,表明整体比较空闲;如果整个负载是1,则表示四个核中有一个已经使用的比较繁忙了,但是其他三个还是比较空闲的;如果负载是4,则说明当前四个核心都处于跑满的状态,如果负载大于四,假设6,那说明四核的CPU 被超负荷使用也无法处理完当前的任务,有很多线程与要等待CPU 资源
    • 后面有内存的使用情况,

 

KiB Mem : 498684 total, 6216 free, 366620 used, 125848 buff/cache

 

  • 498684 total : 总的内存,差不多 490M
  • 6216 free:当前可用内存,6M
  • 366620 used:已使用内存
  • 125848 buff/cache:用于IO 缓冲的内存

磁盘IO检测

  • 在检测CPU 和内存使用的同时,我们还需要检测磁盘的使用状况,包括IO 吞吐量,IOPS 等信息
  • 主要通过 dstat 命令来查看,如果系统没有装可以通过 yum install dstat 进行安装
  • 执行 dstat -d 命令,可以看到如下:

 

 

 

 

上面显示的内存可以看到存储的IO吞吐量的详细数据,每秒读19M数据,每秒写 6521K的数据,这个吞吐量并不是很高,一般普通的机械硬盘可以到达上百MB的读写量

 

  • 使用命令 dstat -r 来查看IOPS 的情况,如下:

 

 

 

 

如上面结果可以看到,读写分别的IOPS 的值,也就是说随即磁盘读取/写入每秒多少次,通常来说磁盘的读写每秒在两三百次是可接受的

网卡流量检测

  • 同样我们可以通过 dstat -n 来查看网卡的具体流量情况,如下:

 

 

 

 

可以看到上面所示,网卡每秒接收和发送的数据量。通常来说如果我们电脑是千兆网卡,那么每秒钟网卡的总流量也就在100M 左右,甚至更低

标签:--,数据库,db,转帖,oltp,mysql,测试工具,root,sysbench
From: https://www.cnblogs.com/jinanxiaolaohu/p/18124388

相关文章

  • mysql数据库备份脚本
    #!/bin/bash#保存备份个数,备份31天数据number=30#备份保存路径backup_dir=/data/mysql-backup/bak#日期dd=`date+%Y-%m-%d-%H-%M-%S`#备份工具tool=mysqldump#用户名username=root#密码password=123456host=127.0.0.1port=3306#将要备份的数据库database_name=m......
  • X86/ARM服务器自建mysql数据库
    接上一篇应用容器化改造-CSDN博客https://blog.csdn.net/weixin_53439529/article/details/137045255应用后端需要写入数据库,比较方便的就是在服务器自建一个mysql数据库,还能顺便测一下并发数对后端数据库服务器的压力。【rpm安装】X86的虚拟机可以用rpm包安装数......
  • CentOS 下性能测试工具 wrk 安装
    前言:使用ab 工具无法压测到性能极限时,就可以使用wrk来压测,但wrk 只支持linux,因此本文记录一下安装过程。1、安装Git:yuminstallgit2、下载wrk:gitclonehttps://github.com/wg/wrk.git3、安装工具:yuminstallunzip4、安装编绎工具:yuminstallgcc5、......
  • Postgres 数据库(一)基本命令
    一、主备数据一致性1、通过wal检测两个数据库实例数据是否一致(该sql语句需要在主库上执行)1.1pg_stat_replication可以进行流复制监控(pg_stat_replication视图显示WAL发送进程的详细信息)postgres=#SELECT*FROMpg_stat_replication;-[RECORD1]--—-----+-—--------......
  • lightdash deploy --create 数据库配置问题
    默认lightdashdeploy--create的时候会进行dbtprofiletarget数据库的链接测试,如果不通就会有提示问题同时lightdashdeploy同时创建项目的时候会提示是否包含数据库的信息(在创建的时候会写入到backend服务中)dbtpgadapter问题如果使用默认的配置可能会有如下的问题Erro......
  • 瀚高数据库获取数据表结构(字段名,字段类型,字段长度,是否为空,描述 )SQL语句
    瀚高数据库获取数据表结构(字段名,字段类型,字段长度,是否为空,描述)SQL语句SELECTc.column_nameas"字段",c.data_typeas"字段类型",c.character_maximum_lengthas"字段长度",c.is_nullableas"是否为NULL",t.descriptionas"注释"F......
  • SQLite数据库文件格式(十五)
     返回:SQLite—系列文章目录   上一篇:SQLite4.9的虚拟表机制(十四)下一篇:SQLite—系列文章目录   ► 目录本文档描述和定义磁盘上的数据库文件自SQLite以来所有版本使用的格式版本3.0.0(2004-06-18).1. 数据库文件SQLite数据库的完整状态通常是包......
  • openGauss2.1.0新特性-账本数据库实验
    openGauss2.1.0新特性-账本数据库实验账本数据库融合了区块链思想,将用户操作记录至两种历史表中:用户历史表和全局区块表。当用户创建防篡改用户表时,系统将自动为该表添加一个hash列来保存每行数据的hash摘要信息,同时在blockchain模式下会创建一张用户历史表来记录对应用户......
  • 数据库
    一、基础篇执行一条select语句,期间发生了什么首先,我们需要了解关于Mysql的内部结构,MySQL内部分为两个部分,第一部分是Server层,第二部分是存储引擎,在Server层中,一般负责链接、分析和执行SQL语句,存储引擎层负责数据的存储和提取,在Mysql中默认使用的是innoDB存储引擎,不同的i......
  • 在ECS上安装部署openGauss数据库指导手册
    在ECS上安装部署openGauss数据库指导手册文档下载:在ECS上安装部署openGauss数据库指导手册.docx前言简介openGauss是关系型数据库,采用客户端/服务器,单进程多线程架构,支持单机和一主多备部署方式,备机可读,支持双机高可用和读扩展。本实验主要描述openGauss数据库在......