性能压测，如何评估一个系统的TPS和并发数？

一、问题

性能压测，如何评估一个系统的TPS和并发数？

二、回答

=》1.对于新系统
由业务部门或开发人员预估交易量和TPS指标，可以参考公式：并发用户=在线用户数* 10%。

当一个系统还没有上线时，我们可以预判的是这个系统准备要给多少人使用，如日常在线用户数量要支撑1000，那么并发用户参考值为：1000* 10%=100。

如果规定该业务的平均响应时间不高于500毫秒，那么通过TPS=并发用户数/业务平均时间，就可以得到TPS=100/0.5s=200笔/秒，为了系统健壮性考虑，我们还可以在预估计算得到的TPS基础上扩个1.5倍得到200笔/秒* 1.5=300笔/秒。

即可得到该系统的TPS为300笔/秒，并发数为150。

=》2.对于已上线系统
TPS有两个公式：
公式一：TPS=总请求/总时间，实际会考虑二八原则
公式二：TPS=并发数/业务平均时间

TPS一般有以下几种衡量系统性能指标的方式：
1.一般业务系统，选取一天业务量，根据二八原则估算TPS指标，二八原则即：80%的业务在20%的时间里完成，TPS=(业务量 * 80%)/(时间(单位s) * 20%)
2.秒杀类系统模型，选取高峰时间段业务量，估算TPS指标。
3.波动类、交易集中类系统模型，选取特殊交易时间段业务量，预估TPS指标。
另外需要注意：TPS指标需要考虑业务增长量相关因素

如某银行系统某业务订单数据如下：
日常8小时，100万笔交易量，高峰期间交易量8万笔，高峰持续时间9分钟，预估系统3年内每年业务增长率为20%

那么：
1. 该业务系统日常期间TPS为：TPS=(日常交易量 * 80%)/(时间 * 20%)=(100万 * 80%)/(8小时* 60 * 60 * 20%)≈139笔/秒
2. 该业务系统高峰期间TPS为：TPS=高峰期间交易量/高峰持续时间(单位s)=8万/9分钟* 60≈148笔/秒

3. 该业务系统包含每年业务增长率TPS为：
首先三年后业务量=日常交易量* (1+20%)* (1+20%)* (1+20%)=100万* 1.2* 1.2* 1.2=172.8万
其次被测业务交易占总业务交易比例为：40%，那么被测试业务交易量为：总业务交易量* 40%=172.8万* 40%=69.12万
最后被测业务包含每年业务增长率TPS为：(被测试业务交易量* 80%)/(时间(单位s) * 20%)=(69.12万* 80%)/8小时* 60 * 60 * 20%)=96笔/秒

一般情况下，为了系统健壮性考虑，我们会在预估计算得到的未来的TPS基础上扩个1.5倍，即：该业务系统包含每年业务增长率TPS为=96*1.5倍=144笔/秒。

4. 该系统性能测试最低支持的并发数为：
如果规定该业务的平均响应时间不高于500毫秒，那么通过TPS=并发用户数/业务平均时间，就可以得到并发用户数=0.5秒*144笔/秒=72个，即系统最低要求支持的并发数为：72个

说明：这里平均响应时间不同的公司不同业务可接受的响应时间是不同的，一般对于在线实时交易：
互联网企业：500毫秒以下，例如淘宝业务10毫秒左右
金融企业：1秒以下为佳，部分复杂业务3秒以下
保险企业：3秒以下为佳
制造业：5秒以下就行。

即可得到该系统的TPS为144笔/秒，并发数为72个。

=》3.横向TPS扩展
假设单节点我们通过上面的方法，计算出来的TPS为150笔/秒，平均响应时间不高于500毫秒，并发用户数75个
现在我们想要系统支撑高并发数，通过扩展服务器数量来提升业务处理的能力，那么，我们也可以计算横向TPS扩展增长率：

1. 单节点TPS：150笔/秒
2. 2节点TPS：265笔/秒，则增长率为：(2节点TPS-单节点TPS)/(2节点-1)/单节点TPS=(265-150)/(2-1)/150≈76.67%
3. 3节点TPS：375笔/秒，则增长率为：(3节点TPS-单节点TPS)/(3节点-1)/单节点TPS=(375-150)/(3-1)/150≈75%
4. 4节点TPS：488笔/秒，则增长率为：(4节点TPS-单节点TPS)/(4节点-1)/单节点TPS=(488-150)/(4-1)/150≈75.11%
5. 5节点TPS：600笔/秒，则增长率为：(5节点TPS-单节点TPS)/(5节点-1)/单节点TPS=(600-150)/(5-1)/150≈75%
6. 6节点TPS：715笔/秒，则增长率为：(6节点TPS-单节点TPS)/(6节点-1)/单节点TPS=(715-150)/(6-1)/150≈75.33%
7. 7节点TPS：825笔/秒，则增长率为：(7节点TPS-单节点TPS)/(7节点-1)/单节点TPS=(825-150)/(7-1)/150≈75%
8. 8节点TPS：940笔/秒，则增长率为：(8节点TPS-单节点TPS)/(8节点-1)/单节点TPS=(940-150)/(8-1)/150≈75.24%
9. 9节点TPS：1050笔/秒，则增长率为：(9节点TPS-单节点TPS)/(9节点-1)/单节点TPS=(1050-150)/(9-1)/150≈75%
10. 10节点TPS：1165笔/秒，则增长率为：(10节点TPS-单节点TPS)/(10节点-1)/单节点TPS=(1165-150)/(10-1)/150≈75.19%

一般情况下，我们要求扩展服务器的数量进行高并发的处理，TPS增长率应在75%以上。