压力测试的基本概念

吞吐率(Requests per second)

概念:服务器并发处理能力的量化描述,单位是reqs/s,指的是某个并发用户数下单位时间内处理的请求数。某个并发用户数下单位时间内能处理的最大请求数,称之为最大吞吐率。
计算公式:总请求数 / 处理完成这些请求数所花费的时间,即
Request per second = Complete requests / Time taken for tests

并发连接数(The number of concurrent connections)

概念:某个时刻服务器所接受的请求数目,简单的讲,就是一个会话。

并发用户数(The number of concurrent users,Concurrency Level)

概念:要注意区分这个概念和并发连接数之间的区别,一个用户可能同时会产生多个会话,也即连接数。

用户平均请求等待时间(Time per request)

计算公式:处理完成所有请求数所花费的时间/ (总请求数 / 并发用户数),即
Time per request = Time taken for tests /( Complete requests / Concurrency Level)

服务器平均请求等待时间(Time per request: across all concurrent requests)

计算公式:处理完成所有请求数所花费的时间 / 总请求数,即
Time taken for / testsComplete requests
可以看到,它是吞吐率的倒数。
同时,它也=用户平均请求等待时间/并发用户数,即
Time per request / Concurrency Level

压力测试工具

ab

ab工具简介
ab全称为:apache bench
在官网上的解释如下:
ab是Apache超文本传输协议(HTTP)的性能测试工具。其设计意图是描绘当前所安装的Apache的执行性能,主要是显示你安装的Apache每秒可以处理多少个请求。
开始测试:
输入命令
ab -n 100 -c 10 https://www.baidu.com/

其中-n表示请求数,-c表示并发数

测试结果分析
上面的命令运行完毕后就出来测试报告了

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
graychen@graychen-VPCEG27YC:/blog$ ab -n 100 -c 10 https://www.baidu.com/
This is ApacheBench, Version 2.3 <$Revision: 1706008 $>
Copyright 1996 Adam Twiss, Zeus Technology Ltd, http://www.zeustech.net/
Licensed to The Apache Software Foundation, http://www.apache.org/

Benchmarking www.baidu.com (be patient).....done


Server Software: bfe/1.0.8.18
Server Hostname: www.baidu.com
Server Port: 443
SSL/TLS Protocol: TLSv1.2,ECDHE-RSA-AES128-GCM-SHA256,2048,128

Document Path: /
Document Length: 227 bytes

Concurrency Level: 10
Time taken for tests: 1.765 seconds
Complete requests: 100
Failed requests: 0
Total transferred: 103255 bytes
HTML transferred: 22700 bytes
Requests per second: 56.65 [#/sec] (mean)
Time per request: 176.522 [ms] (mean)
Time per request: 17.652 [ms] (mean, across all concurrent requests)
Transfer rate: 57.12 [Kbytes/sec] received

Connection Times (ms)
min mean[+/-sd] median max
Connect: 104 126 12.3 125 162
Processing: 32 39 5.7 38 68
Waiting: 32 38 5.0 37 60
Total: 138 165 14.1 164 220

Percentage of the requests served within a certain time (ms)
50% 164
66% 170
75% 173
80% 177
90% 184

这段展示的是web服务器的信息,可以看到服务器采用的是bfe/1.0.8.18,这是类似与nginx的软件,域名是www.baidu.com,端口是80

1
2
3
4
Server Software:        bfe/1.0.8.18
Server Hostname: www.baidu.com
Server Port: 443
SSL/TLS Protocol: TLSv1.2,ECDHE-RSA-AES128-GCM-SHA256,2048,128

这段是关于请求的文档的相关信息,所在位置“/”,文档的大小为 227bytes(此为http响应的正文长度)

1
2
3
4
5
6
7
8
9
10
11
12
13
Document Path:          /
Document Length: 227 bytes
这段展示了压力测试的几个重要指标
Concurrency Level: 10
Time taken for tests: 1.765 seconds
Complete requests: 100
Failed requests: 0
Total transferred: 103255 bytes
HTML transferred: 22700 bytes
Requests per second: 56.65 [#/sec] (mean)
Time per request: 176.522 [ms] (mean)
Time per request: 17.652 [ms] (mean, across all concurrent requests)
Transfer rate: 57.12 [Kbytes/sec] received

Concurrency Level: 10
//并发请求数
Time taken for tests: 1.765 seconds
//整个测试持续的时间
Complete requests: 100
//完成的请求数
Failed requests: 0
//失败的请求数

Total transferred: 103255 bytes
//整个场景中的网络传输量
HTML transferred: 22700 bytes
//整个场景中的HTML内容传输量
//吞吐率,大家最关心的指标之一,相当于 LR 中的每秒事务数,后面括号中的 mean 表示这是一个平均值
Time per request: 176.522 [ms] (mean)
//用户平均请求等待时间,大家最关心的指标之二,相当于 LR 中的平均事务响应时间,后面括号中的 mean 表示这是一个平均值
Time per request: 17.652 [ms] (mean, across all concurrent requests)
//服务器平均请求处理时间,大家最关心的指标之三

Transfer rate: 57.12 [Kbytes/sec] received
//平均每秒网络上的流量,可以帮助排除是否存在网络流量过大导致响应时间延长的问题

这段表示网络上消耗的时间的分解

1
2
3
4
5
6
Connection Times (ms)
min mean[+/-sd] median max
Connect: 104 126 12.3 125 162
Processing: 32 39 5.7 38 68
Waiting: 32 38 5.0 37 60
Total: 138 165 14.1 164 220

这段是每个请求处理时间的分布情况,50%的处理时间在4930ms内,66%的处理时间在5008ms内…,重要的是看90%的处理时间。

1
2
3
4
5
6
Percentage of the requests served within a certain time (ms)
50% 164
66% 170
75% 173
80% 177
90% 184

登陆的测试

有时候进行压力测试需要用户登录,怎么办?
请参考以下步骤:

先用账户和密码登录后,用开发者工具找到标识这个会话的Cookie值(Session ID)记下来
如果只用到一个Cookie,那么只需键入命令:
ab -n 100 -C key=value http://test.com/

如果需要多个Cookie,就直接设Header:
ab -n 100 -H “Cookie: Key1=Value1; Key2=Value2” http://test.com/