用Little's Law理解系统的QPS、耗时、并发数

     原文发表于我的微信公众号"涛歌依旧",可以点击如下红色文字链接阅读:

   用Little's Law理解系统的QPS、耗时、并发数(链接)


 


     从微信公众号把原文直接复制过来,内容如下(图片和表格可能丢失,格式可能错乱,故建议直接点击上述红色链接阅读):

      今天是大年三十,没有回湖北的家。希望亲朋好友们一切安好,平安幸福。家里应该正在吃肉糕了吧, 挺好吃的

      最近肺炎疫情还是挺严重的,奋战在一线的医护人员辛苦了,致敬您们。也想到了第一次听到“希波克拉底誓言”时的那种感动,也想起了林则徐那句话:苟利国家生死以,岂因祸福避趋之!

      响应号召,哪里也不去,就宅在家里。

      来看这样一个问题:假设超市每分钟有10个人走出来,请估算超市里面有多少人?

      这个问题的准确答案不重要,关键是思路。看完本文后,应该就能大致估算出来。

       我们先看Little's Law:

      在一个稳定的系统中,设长时间观察到的平均顾客数量为L,长时间观察到的有效到达速率为λ,平均每个顾客在系统中花费的时间是W,则有如下关系式:

L = λW

Little's Law的理解

      实际上,Little's Law很好理解。假设有一水管,横截面积为2平方米,水速为5米/秒,即水的流量速度是10立方米/秒,很显然: 

      在长度100米的水管内,水量为200立方米,每滴水从流入到流出,耗时20秒,而水的流量速度是10立方米/秒,也就是说,在这段水管中:

水量= 耗时 * 流量速度

      这就是Little's Law. 虽然很早就意识到了这一关系式,但有点可笑的是,毕业后才第一次听说Little's Law.

Little's Law的应用

      Little's Law模型很通用,因此,在很多场景中都能得到应用,比如工业界和计算机界,都会有意或无意用到该定律。       

      先看一个最好懂的例子:大一新生的招收速度是5000人/年,每个学生在大学停留4年,因此,整个大学的人数就是20000.

      

      再看腾讯公司2012年的一道笔试题目,简单但难倒不少人:

      这个题目中的图是多余的,有误导性。很显然,根据Little's Law,答案是42.

QPS、耗时、并发数

       在后台开发中,经常要涉及到QPS、耗时和并发数这些概念。对于测试同学而言,经常需要进行压力测试,所以,也有必要深入理解这些概念。其中,QPS和并发数尤其容易混淆,比如:1秒内并发地来了100个请求,这个100是QPS还是并发数? 我们来看看它们的含义:

       QPS: 请求进入的速度

       耗时: 请求停留的时间

       并发数: 系统中同时存在的请求数

       根据Little's Law,我们能得到如下的关系式:

 并发数 = QPS * 耗时

       以大学招生为例:大一新生的招收速度是5000人/年,每个学生在大学停留4年,整个大学的人数是20000,于是(下面的QPS改为以年为单位):

QPS

耗时

并发数

5000人/年

4年

20000人

       以某公司为例:180000员工,必须早上8:30-9:00之间在考勤系统签到,每次签到在系统需要停留0.1秒,于是:

QPS

耗时

并发数

100人/秒

0.1秒

10人

       以动物园为例:每秒有1个人进入动物园,每个人在动物园中停留2小时,于是:

QPS

耗时

并发数

1人/秒

2*3600秒

7200人

       假设在理想情况下,某系统的请求进入速度是1亿次/秒,系统处理的时间趋近为0,那么这个系统的并发量是多少呢?很显然:

QPS

耗时

并发数

1亿次/秒

趋近0

趋近0次

       可见,虽然每秒有1亿次请求,但在某一随机时刻观察系统,会发现系统中不存在请求堆积的问题,系统的并发数趋近0.

       这是一个高QPS、低延时系统,是一个很好的系统,轻轻松松地快速处理各种请求,来一个灭一个。值得一提的是,此时并发数很低,但这不表明系统实际能够承受的并发数很低,它实际上可能承受很高的并发数。

       最后,我们来看下某系统的压测数据,满足Little's Law:

并发数 = QPS * avg

       到此为止,应该清楚了QPS、耗时和并发数的含义,以后在开发或压测时候,再也不会懵圈了。

长按或扫描二维码  可关注涛哥公众号

 

发布了2213 篇原创文章 · 获赞 4564 · 访问量 1977万+

猜你喜欢

转载自blog.csdn.net/stpeace/article/details/104127711