Tomcat并发优化

测试软件：

1、JMeter

参考：http://www.ltesting.net/ceshi/open/kyxncsgj/jmeter/2013/0517/206265.html

Label：每个 JMeter 的 element (例如 HTTP Request )都有一个 Name 属性，这里显示的就是 Name 属性的值

　　#Samples：表示你这次测试中一共发出了多少个请求，如果测试计划模拟10个用户，每个用户迭代10次，这里就会显示100

　　Average：平均响应时间 — 默认情况下是单个 Request 的平均响应时间，当使用了事务控制器时，也可以以事务为单位显示平均响应时间都是毫秒

　　Median：中位数，也就是 50 %用户的响应时间

　　90% Line： 90 %用户的响应时间

　　Min：最小响应时间

　　Max：最大响应时间

　　Error%：错误率，本次测试中出现错误的请求的数量 / 请求的总数

　　Throughput：吞吐量 —— 默认情况下表示每秒完成的请求数( Request per Second )

　　KB/Sec：每秒从服务器端接收到的数据量

出现错误：jmeter.protocol.http.control.HC3CookieHandler: Not storing invalid cookie

CookieManager.check.cookies=false

2、Badboy

3、tomcat默认配置时：

maxThreads默认是200，

答曰：

maxThreads="150" 表示最多同时处理150个连接
minSpareThreads="25" 表示即使没有人使用也开这么多空线程等待
maxSpareThreads="75" 表示如果最多可以空75个线程，例如某时刻有80人访问，之后没有人访问了，则tomcat不会保留80个空线程，而是关闭5个空的。

acceptCount="100" 当同时连接的人数达到maxThreads时，还可以接收排队的连接，超过这个连接的则直接返回拒绝连接

在tomcat配置文件server.xml中的<Connector ... />配置中，和连接数相关的参数有：
minProcessors：最小空闲连接线程数，用于提高系统处理性能，默认值为10tomcat7 不支持
maxProcessors：最大连接线程数，即：并发处理的最大请求数，默认值为75tomcat7 不支持
acceptCount：允许的最大连接数，应大于等于maxProcessors，默认值为100
enableLookups：是否反查域名，取值为：true或false。为了提高处理能力，应设置为false
connectionTimeout：网络连接超时，单位：毫秒。设置为0表示永不超时，这样设置有隐患的。通常可设置为30000毫秒。
其中和最大连接数相关的参数为maxProcessors和acceptCount。如果要加大并发连接数，应同时加大这两个参数

web server允许的最大连接数还受制于操作系统的内核参数设置，通常Windows是2000个左右，Linux是1000个左右。Unix中如何设置这些参数，请参阅Unix常用监控和管理命令

tomcat4中的配置示例：
port="8080" minProcessors="10" maxProcessors="1024"
enableLookups="false" redirectPort="8443"
acceptCount="1024" debug="0" connectionTimeout="30000" />

对于其他端口的侦听配置，以此类推。

不启用nginx：

1）测试程序sleep（500）

单线程测试，则时间消耗是约510ms；

sleep(10000)

设定响应超时15000ms；发送201个线程，则首先200ok，后面剩一个。

修改maxThread=150后，有了响应后，首先成功150，后续51个失败

2）单个并发极限测试maxThreads的最大有效值

4000、5000-ok；10000，有部分失败，

原因分析：感觉是与1tomcat连接的超时时间（20s），2testweb应用的响应的耗时（10s），3Jmeter等待响应时间（15s）都有关系，

如果我10000个用户并发，由于系统和网络等因素，造成平均耗时为9816ms，最高为17358>15000，那么就会出现失败现象，

如果我把3关闭，则没有失败。

如果我把1调成15s呢？通过，调成10s，通过；调成1s，通过；调整10ms？少量失败，感觉是创建连接的超时值

3）connectiontimeout测试无效；采用sleep测试失败，网上有

http://zhumeng8337797.blog.163.com/blog/static/100768914201292510310239/

4）

bufferSize Connector创建的输入流的大小，默认值是2048 bytes，提高这个值可以提升性能，增加内存消耗。

5、测试Nginx：

worker_processes 工作进程，一般参考CPU数量：：n个则进程中有n+1个nginx

worker_connections 1024

超过500并发时，出现

ERROR - jmeter.protocol.http.sampler.HTTPJavaImpl: Cause: java.io.IOException: Server returned HTTP response code: 500 for URL

查看发现worker_processes=1 修改为2则500正常，发现nginx死机，修改成1试试，512并发时开始出错

把tomcat并发修改为200试试？无效

调整了connections=102400并发超过511时，还是有一个io错误

添加了第三台，不同ip的tomcat还是512时，出现一个io错误

换了机器运行nginx还是出现同样的错误，怀疑jmeter的错误

最后发现是windows2008 最大打开文件句柄数509+2=511个

ulimit ???

tomcat1、2=200并发，共计500并发，12068ms

单点时500并发平均17726ms。提速很明显。

nginx,1.5.2中已经解决了仅能设置一个 worker_processes的问题

但是还是无法解决windows句柄的问题，所以还是用linux吧

猜你喜欢