浅谈高并发

最近接到个任务,业务场景是需要处理高并发。

原谅我第一时间想到的居然是前段时间阮一峰的博客系统遭到了DDoS攻击,因为在我的理解中,它们的原理是想通的,都是服务器在一定时间内无法处理所有的并行任务,导致部分请求异常,甚至会像阮一峰的博客一样崩溃。

之前不太有接触过高并发的机会,所以并没有什么实际经验,倒是之前做的项目中有秒杀功能的实现做过一定的处理,当时的处理就是多利用缓存进行优化和减少一些没必要的后端请求,但是因为是创业公司,所以并没有多少过多的流量,即便是秒杀,所以也没有进行更进一步的优化了,业务需求不需要,自己也没有过多去思考这个问题了。

其实刚开始我还是有些想法,利用HTTP头部,强缓存(cache-control)、协商缓存(last-modified和Etag)、开启HTTP2,尤其是HTTP2应该能将性能提升不少吧,但是这些方案大多都需要后端支持,那么前端能做什么呢,倒是还真没好好思考和总结一下。

架构搭建之前首先要把需求理解透彻,所以去谷歌搜索了一波,首先看几个名词:

  • QPS:每秒钟请求或者查询的数量,在互联网领域,指每秒响应请求数(指HTTP请求)
  • 吞吐量:单位时间内处理的请求数量(通常由QPS与并发数决定)
  • 响应时间:从请求发出到收到响应花费的时间,例如系统处理一个HTTP请求需要100ms,这个100ms就是系统的响应时间
  • PV:综合浏览量(Page View),即页面浏览量或者点击量,一个访客在24小时内访问的页面数量,同一个人浏览你的网站同一页面,只记作一次PV
  • UV:独立访问(UniQue Visitor),即一定时间范围内相同访客多次访问网站,只计算为1个独立访客
  • 带宽:计算带宽大小需关注两个指标,峰值流量和页面的平均大小

再看几张图:

正常访问:

高并发:

客户端精简与拦截:

那么怎么浅显的解释下高并发呢?把服务器比作水箱,水箱与外界连接换水有三根水管,正常情况下都能正常进行换水,但是突然一段时间大量的水需要流通,水管的压力就承受不了了。再简单点:洪涝灾害、早晚高峰、中午12点的大学食堂,大概都是这个原理吧。这些现实问题怎么解决的呢,高并发是不是也可以借鉴一下呢?

  1. 洪涝灾害:修固堤岸(增强服务器性能)
  2. 早晚高峰:多选择其他路线(分流,和分配服务器线路),不是一定需要就避开早晚高峰(减少客户端请求)
  3. 中午12点的大学食堂:学校多开几个食堂(静态资源与后端api分到不同服务器)

回到高并发的问题上,我认为解决方案主要有这些:

  1. 静态资源合并压缩
  2. 减少或合并HTTP请求(需权衡,不能为了减少而减少)
  3. 使用CDN,分散服务器压力
  4. 利用缓存过滤请求

后来发现如果要把优化做到很好,雅虎35条军规中很多条对解决高并发也都是有效的。

回到业务上,本次业务是助力免单。设计图没有几张,担心涉及商业信息就不放图了,因为要求是多页面,我将业务分成三个页面:

  1. 首页,查看活动信息页
  2. 查看自己活动进程页,包括活动结束,开始活动,活动进行中和助力失败几个状态
  3. 帮助他人助力页,包括帮他助力和自己也要助力两个状态

简单分析了一下,需要的数据有:

{
	// 这个活动的id,防止多个助力活动同时发起,本地存储混乱的问题
	id:'xxxxxxxxxx',
	// 结束时间,这个时间一般是固定的,也可以放到本地存储,不需要多次请求,过了时间可以clear这个
	endTime:'xxxxxxxx',
	// 需要助力的人数
	needFriendsNumber:3,
	// 直接购买的价格
	directBuyPrice: 9.9,
	// 自己的信息,在帮助别人和发起助力时需要自己的信息
	userInfo:{
		id:'xxxxxxxxx',
		avatar:'xxxxxxxxx'
	},
	// 帮助过我的人列表,显示帮助我的页面需要用,根据需求看,这个列表人数不会太多,也可以放到本地存储
	helpMeList:[{
		id:'xxxxxxxxx',
		avatar:'xxxxxxx'
	},{
		id:'xxxxxxxxx',
		avatar:'xxxxxxx'
	}
	...
	],
	// 帮助别人的列表,可以放到本地存储中,在进入给别人助力时不用再发起请求,帮助过别人后加到数组中
	helpOtherList:[{
		id:'xxxxxxxxx',
		avatar:'xxxxxxx'
	},{
		id:'xxxxxxxxx',
		avatar:'xxxxxxx'
	}
	...
	]
}
复制代码

嗯,貌似都可以借助本地存储实现减少请求的目的,5M的localStrong应该也够用。这样算来除了助力他人和第一次获取基本信息还有获取助力名单,貌似也不需要其他的额外的请求了。精简请求这个方面目前就是这样了,因为还没有完全写完,所以还有没考虑到的就要到写实际业务的时候碰到再处理了。

压缩资源的话webpack在build的时候已经做过了。

然后就是静态资源上传到七牛cdn,具体实现思路是在npm run build之后,执行额外的upload.js,服务器部署的时候只需要部署三个html文件就可以了。 package中:

"build": "node build/build.js && npm run upload",
复制代码

抛开与网站服务器的Http请求,第一次打开首页:

之后:

原理大概是这样,效果也还是不错,自己的服务器只需要执行必要的接口任务就行了,不需要负责静态资源的传输

最后总结一下,采取了的措施有:

  1. 利用缓存,精简请求
  2. 合并压缩
  3. 静态资源上传cdn

最主要的措施大概也只有这几个,还有的比如设置cache-control和etags应该也有效果,但是因为需要后端支持,所以暂时没有考虑。

做到的优化很少,差的也还很远,任重而道远,继续努力吧。

参考:

猜你喜欢

转载自juejin.im/post/5bacd65a5188255c971fe5a2