Tomcat的配置优化

26 阅读15分钟

一、前言

Tomcat作为Java Web应用的核心运行容器,其默认配置往往无法满足生产环境的高并发与高性能要求。通过优化线程池、内存管理和连接参数,可以显著提升应用吞吐量,降低响应延迟,并有效避免运行时内存溢出等稳定性问题。合理的Tomcat调优是保障企业级应用高效、稳定运行的关键环节,能与Nginx等前端组件形成高效协同,充分发挥整体架构潜力。

二、基础介绍说明

2.1 修改服务端口

1)找到 Tomcat 目录下的 conf 文件夹

2)进入 conf 文件夹里面找到 server.xml 文件

3)打开 server.xml 文件

4)在 server.xml 文件里面找到下列信息

<Connector connectionTimeout="20000" port="8080" protocol="HTTP/1.1"

redirectPort="8443" uriEncoding="utf-8"/>

port="8080"改成你想要的端口

2.2 Tomcat工作模式

Tomcat 是一个 JSP/Servlet 容器。其作为 Servlet 容器,

有三种工作模式:独立的 Servlet 容器、进程内的 Servlet 容器和进程外的 Servlet 容器。

进入 Tomcat 的请求可以根据 Tomcat 的工作模式分为如下两类:

Tomcat 作为应用程序服务器:请求来自于前端的 web 服务器,这可能是Apache, IIS, Nginx 等;

Tomcat 作为独立服务器:请求来自于 web 浏览器;

2.3 Connector运行模式

bio

传统的 Java I/O 操作,同步且阻塞 IO。

maxThreads=”150”.

Tomcat 使用线程来处理接收的每个请求。这个值表示Tomcat 可创建的最大的线程数。默认值 200。可以根据机器的时期性能和内存大小调整,一般可以在 400-500。最大可以在 800 左右。

minSpareThreads=”25”

Tomcat 初始化时创建的线程数。默认值 4。如果当前没有空闲线程,且没有超过 maxThreads,一次性创建的空闲线程数量。Tomcat 初始化时创建的线程数量也由此值设置。

maxSpareThreads=”75”

一旦创建的线程超过这个值,Tomcat 就会关闭不再需要的 socket 线程。默认值 50。一旦创建的线程超过此数值,Tomcat 会关闭不再需要的线程。线程数可以大致上用 “同时在线人数每秒用户操作次数系统平均操作时间” 来计算。

acceptCount=”100”

-定当所有可以使用的处理请求的线程数都被使用时,可以放到处理队列中的请求数,超过这个数的请求将不予处理。默认值10。如果当前可用线程数为 0,则将请求放入处理队列中。这个值限定了请求队列的大小,超过这个数值的请求将不予处理。

connectionTimeout=”20000”

–网络连接超时,默认值 20000,单位:毫秒。设置为 0 表示永不超时,这样设置有隐患的。通常可设置为 30000 毫秒。

nio

JDK1.4 开始支持,同步阻塞或同步非阻塞 IO。指定使用 NIO 模型来接受 HTTP 请求

protocol=”org.apache.coyote.http11.Http11NioProtocol” 指定使用 NIO 模型来接受 HTTP 请求。默认是 BlockingIO,配置为 protocol=”HTTP/1.1”

acceptorThreadCount=”2” 使用 NIO 模型时接收线程的数目

aio(nio.2):JDK7 开始支持,异步非阻塞 IO。

apr

Tomcat 将以 JNI 的形式调用 Apache HTTP 服务器的核心动态链接库来处理文件读取或网络传输操作,从而大大地 提高 Tomcat 对静态文件的处理性能。

<Connector connectionTimeout="20000" port="8000"

protocol="HTTP/1.1" redirectPort="8443" uriEncoding="utf-8"/>

protocol 启用 nio 模式,(tomcat8 默认使用的是 nio)(apr 模式利用系统级异步 io)

minProcessors 最小空闲连接线程数

maxProcessors 最大连接线程数

acceptCount 允许的最大连接数,应大于等于 maxProcessors-

enableLookups 如果为 true,requst.getRemoteHost 会执行 DNS 查找,反向解析 ip 对应域名或主机名-

<Connector port="8080"

protocol="org.apache.coyote.http11.Http11NioProtocol"

connectionTimeout="30000"

redirectPort="8443

maxThreads=“512”

minSpareThreads=“100”

maxSpareThreads=“200”

acceptCount="200"

enableLookups="false"

/>

其他配置

maxHttpHeaderSize="8192" http 请求头信息的最大程度,超过此长度的部分不予处理。一般 8K。

URIEncoding="UTF-8" 指定 Tomcat 容器的 URL 编码格式。

disableUploadTimeout="true" 上传时是否使用超时机制

enableLookups="false" --是否反查域名,默认值为 true。为了提高处理能力,应设置为 false

compression="on" 打开压缩功能

compressionMinSize="10240" 启用压缩的输出内容大小,默认为 2KB

noCompressionUserAgents="gozilla, traviata" 对于以下的浏览器,不启用压缩

compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain" 哪些资源类型需要压缩

2.4 Tomcat的部署方式

1)直接把 Web 项目放在 webapps 下,Tomcat 会自动将其部署

2)在 server.xml 文件上配置节点,设置相关的属性即可

3)通过 Catalina 来进行配置:进入到 conf\Catalina\localhost 文件下,创建一个xml 文件,该文件的名字就是站点的名字。编写 XML 的方式来进行设置。

2.5 如何创建servlet类实例

当容器启动时,会读取在 webapps 目录下所有的 web 应用中的 web.xml 文件,然后对 xml 文件进行解析,并读取 servlet 注册信息。然后,将每个应用中注册的 servlet 类都进行加载,并通过反射的方式实例化。(有时候也是在第一次请求时实例化)在 servlet 注册时加上如果为正数,则在一开始就实例化,如果不写或为负数,则第一次请求实例化。

2.6 一个请求的完整过程

1、首先 dns 解析机器,解析到公网IP地址,流量经过防火墙转发到Nginx服务器

2、nginx 根据 server 的配置,寻找路径为上游服务器列表,根据负载策略,选择其中一台服务器进行请求 3、Tomcat 3.1 请求被发送到本机端口 8080,被在那里侦听的 Coyote HTTP/1.1 Connector 获得

3.2 Connector 把该请求交给它所在的 Service 的 Engine 来处理,并等待来自Engine 的回应

3.3 Engine 获得请求 localhost/yy/index.jsp,匹配它所拥有的所有虚拟主机 Host

3.4 Engine 匹配到名为 localhost 的 Host(即使匹配不到也把请求交给该 Host处理,因为该 Host 被定义为该 Engine 的默认主机)

3.5 localhost Host 获得请求/yy/index.jsp,匹配它所拥有的所有 Context

3.6 Host 匹配到路径为/yy 的 Context(如果匹配不到就把该请求交给路径名为”“的 Context 去处理)

3.7 path=”/yy”的 Context 获得请求/index.jsp,在它的 mapping table 中寻找对应的 servlet

3.8 Context 匹配到 URL PATTERN 为*.jsp 的 servlet,对应于 JspServlet 类

3.9 构造 HttpServletRequest 对象和 HttpServletResponse 对象,作为参数调用JspServlet 的 doGet 或 doPost 方法

3.10 Context 把执行完了之后的 HttpServletResponse 对象返回给 Host

3.11 Host 把 HttpServletResponse 对象返回给 Engine

3.12 Engine 把 HttpServletResponse 对象返回给 Connector

3.13 Connector 把 HttpServletResponse 对象返回给客户 browser

三、优化详解

3.1 连接配置优化

修改 conf/server.xml文件,修改连接数,关闭客户端 dns 查询。

参数解释:

URIEncoding=”UTF-8″ :使得 tomcat 可以解析含有中文名的文件的 url

maxSpareThreads : 如果空闲状态的线程数多于设置的数目,则将这些线程中止,减少这个池中的线程总数。

minSpareThreads : 最小备用线程数,tomcat 启动时的初始化的线程数。

enableLookups : 这个功效和 Apache 中的 HostnameLookups 一样,设为关闭。

connectionTimeout : connectionTimeout 为网络连接超时时间毫秒数。

maxThreads : maxThreads Tomcat 使用线程来处理接收的每个请求。这个值表示 Tomcat 可创建的最大的线程数,即最大并发数。

acceptCount : acceptCount 是当线程数达到 maxThreads 后,后续请求会被放入一个等待队列,这个 acceptCount 是这个队列的大小,如果这个队列也满了,就直接 refuse connection

maxProcessors 与 minProcessors : 在 Java 中线程是程序运行时的路径,是在一个程序中与其它控制线程无关的、能够独立运行的代码段。它们共享相同的地址空间。多线程帮助程序员写出 CPU 最 大利用率的高效程序,使空闲时间保持最低,从而接受更多的请求。

通常 Windows 是 1000 个左右,Linux 是 2000 个左右。

useURIValidationHack:

我们来看一下 tomcat 中的一段源码:

【security】

if (connector.getUseURIValidationHack()) {
  String uri = validate(request.getRequestURI());
  if (uri == null) {      
    res.setStatus(400);      
    res.setMessage(“Invalid URI”);
    throw new IOException(“Invalid URI”);
  } else {   
    req.requestURI().setString(uri);   
    req.decodedURI().duplicate(req.requestURI());  
    req.getURLDecoder().convert(req.decodedURI(), true);

可以看到如果把 useURIValidationHack 设成”false”,可以减少它对一些 url的不必要的检查从而减省开销。

enableLookups=”false” : 为了消除 DNS 查询对性能的影响我们可以关闭DNS 查询,方式是修改 server.xml 文件中的 enableLookups 参数值。

disableUploadTimeout :类似于 Apache 中的 keeyalive 一样给 Tomcat 配置 gzip 压缩(HTTP 压缩)功能

compression=”on” compressionMinSize=”2048″compressableMimeType=”text/html,text/xml,text/JavaScript,text/css,text/plain”

HTTP 压缩可以大大提高浏览网站的速度,它的原理是,在客户端请求网页后,从服务器端将网页文件压缩,再下载到客户端,由客户端的浏览器负责解压缩并浏览。

相对于普通的浏览过程 HTML,CSS,javascript , Text ,它可以节省 40%左右的流量。更为重要的是,它可以对动态生成的,包括 CGI、PHP ,JSP , ASP , Servlet,SHTML 等输出的网页也能进行压缩,压缩效率惊人。

1)compression=”on” 打开压缩功能

2)compressionMinSize=”2048″ 启用压缩的输出内容大小,这里面默认为2KB

3)noCompressionUserAgents=”gozilla, traviata” 对于以下的浏览器,不启用压缩

4)compressableMimeType=”text/html,text/xml” 压缩类型最后不要忘了把 8443 端口的地方也加上同样的配置,因为如果我们走 https 协议的话,我们将会用到 8443 端口这个段的配置

<!–enable tomcat ssl–>
<Connector port=”8443protocol=”HTTP/1.1URIEncoding=”UTF-8minSpareThreads=”25maxSpareThreads=”75enableLookups=”falsedisableUploadTimeout=”trueconnectionTimeout=”20000acceptCount=”300maxThreads=”300maxProcessors=”1000minProcessors=”5useURIValidationHack=”falsecompression=”oncompressionMinSize=”2048compressableMimeType=”text/html,text/xml,text/javascript,text/css,text/plain”
SSLEnabled=”truescheme=”https” 
secure=”trueclientAuth=”falsesslProtocol=”TLS”
keystoreFile=”d:/tomcat2/conf/shnlap93.jks” 
keystorePass=”aaaaaa”
/>

好了,所有的 Tomcat 优化的地方都加上了。

3.2 内存调优

内存方式的设置是在 catalina.sh 中, JAVA_OPTS 变量即可,因为后面的启动参数会把 JAVA_OPTS 作为 JVM 的启动参数来处理。

具体设置如下:

JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:NewRatio=4 -XX:SurvivorRatio=4"

其各项参数如下:

-Xmx3550m:设置 JVM 最大可用内存为 3550M。

-Xms3550m:设置 JVM 促使内存为 3550m。此值可以设置与-Xmx 相同,以避免每次垃圾回收完成后 JVM 重新分配内存。

-Xmn2g:设置年轻代大小为 2G。整个堆大小=年轻代大小 + 年老代大小 +持久代大小。持久代一般固定大小为 64m,所以增大年轻代后,将会减小年老代大小。此值对系统性能影响较大,Sun 官方推荐配置为整个堆的 3/8。

-Xss128k:设置每个线程的堆栈大小。JDK5.0 以后每个线程堆栈大小为 1M,以前每个线程堆栈大小为 256K。更具应用的线程所需内存大小进行调整。在相同物理内存下,减小这个值能生成更多的线程。但是操作系统对一个进程内的线程数还是有限制的,不能无限生成,经验值在 3000~5000 左右。

-XX:NewRatio=4:设置年轻代(包括 Eden 和两个 Survivor 区)与年老代的比值(除去持久代)。设置为 4,则年轻代与年老代所占比值为 1:4,年轻代占整个堆栈的 1/5

-XX:SurvivorRatio=4:设置年轻代中 Eden 区与 Survivor 区的大小比值。设置为 4,则两个 Survivor 区与一个 Eden 区的比值为 2:4,一个 Survivor 区占整个年轻代的 1/6

-XX:MaxPermSize=16m:设置持久代大小为 16m。

-XX:MaxTenuringThreshold=15:设置垃圾最大年龄。如果设置为 0 的话,则年轻代对象不经过 Survivor 区,直接进入年老代。对于年老代比较多的应用,可以提高效率。如果将此值设置为一个较大值,则年轻代对象会在 Survivor 区进行多次复制,这样可以增加对象再年轻代的存活时间,增加在年轻代即被回收的概论。

3.3 并发优化

maxThreads 客户请求最大线程数 minSpareThreads Tomcat初始化时创建的 socket 线程数 maxSpareThreads Tomcat连接器的最大空闲 socket 线程数 enableLookups 若设为true, 则支持域名解析,可把 ip 地址解析为主机名 redirectPort 在需要基于安全通道的场合,把客户请求转发到基于SSL 的 redirectPort 端口 acceptAccount 监听端口队列最大数,满了之后客户请求会被拒绝(不能小于maxSpareThreads ) connectionTimeout 连接超时 minProcessors 服务器创建时的最小处理线程数 maxProcessors 服务器同时最大处理线程数 URIEncoding URL统一编码

3.4 网络传输优化(压缩)

compression 打开压缩功能

compressionMinSize 启用压缩的输出内容大小,这里面默认为2KB

compressableMimeType 压缩类型

connectionTimeout 定义建立客户连接超时的时间.

如果为 -1, 表示不限制建立客户连接的时间

compression=”oncompressionMinSize=”2048compressableMimeType=”text/html,text/xml,text/javascript,text/css,text/plain”

3.5 垃圾回收策略调优

垃圾回收的设置也是在 catalina.sh 中,调整 JAVA_OPTS 变量。

具体设置如下:

JAVA_OPTS="$JAVA_OPTS -Xmx3550m -Xms3550m -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100"

具体的垃圾回收策略及相应策略的各项参数如下:

串行收集器(JDK1.5 以前主要的回收方式)

-XX:+UseSerialGC:设置串行收集器并行收集器(吞吐量优先)

示例:

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseParallelGC -XX:MaxGCPauseMillis=100

-XX:+UseParallelGC:选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下,年轻代使用并发收集,而年老代仍旧使用串行收集。

-XX:ParallelGCThreads=20:配置并行收集器的线程数,即:同时多少个线程一起进行垃圾回收。此值最好配置与处理器数目相等。

-XX:+UseParallelOldGC:配置年老代垃圾收集方式为并行收集。JDK6.0 支持对年老代并行收集

-XX:MaxGCPauseMillis=100:设置每次年轻代垃圾回收的最长时间,如果无法满足此时间,JVM 会自动调整年轻代大小,以满足此值。

-XX:+UseAdaptiveSizePolicy:设置此选项后,并行收集器会自动选择年轻代区大小和相应的 Survivor 区比例,以达到目标系统规定的最低相应时间或者收集频率等,此值建议使用并行收集器时,一直打开。

并发收集器(响应时间优先)

示例:

java -Xmx3550m -Xms3550m -Xmn2g -Xss128k -XX:+UseConcMarkSweepGC 

-XX:+UseConcMarkSweepGC:设置年老代为并发收集。

测试中配置这个以后,-XX:NewRatio=4 的配置失效了,原因不明。所以,此时年轻代大小最好用-Xmn 设置。

-XX:+UseParNewGC: 设置年轻代为并行收集。可与 CMS 收集同时使用。

JDK5.0 以上,JVM 会根据系统配置自行设置,所以无需再设置此值。

-XX:CMSFullGCsBeforeCompaction:由于并发收集器不对内存空间进行压缩、整理,所以运行一段时间以后会产生“碎片”,使得运行效率降低。此值设置运行多少次 GC 以后对内存空间进行压缩、整理。

-XX:+UseCMSCompactAtFullCollection:打开对年老代的压缩。可能会影响性能,但是可以消除碎片

3.6 共享session处理

目前的处理方式有如下几种:

1).使用 Tomcat 本身的 Session 复制功能

参考 ajita.iteye.com/blog/171531…(Session 复制的配置)方案的有点是配置简单,缺点是当集群数量较多时,Session 复制的时间会比较长,影响响应的效率

2).使用第三方来存放共享 Session目前用的较多的是使用 memcached 来管理共享 Session,借助于

memcached-sesson-manager 来进行 Tomcat 的 Session 管理参考 ajita.iteye.com/blog/171632…(使用 MSM 管理 Tomcat 集群

session)

3).使用黏性 session 的策略

对于会话要求不太强(不涉及到计费,失败了允许重新请求下等)的场合,同一个用户的 session 可以由 nginx 或者 apache 交给同一个 Tomcat 来处理,这就是所谓的 session sticky 策略,目前应用也比较多

参考:ajita.iteye.com/blog/184866…(tomcat session sticky)nginx 默认不包含 session sticky 模块,需要重新编译才(windows 下我也不知道怎么重新编译)

优点是处理效率高多了,缺点是强会话要求的场合不合适

3.8 添加JMS远程监控

对于部署在局域网内其它机器上的 Tomcat,可以打开 JMX 监控端口,局域网其它机器就可以通过这个端口查看一些常用的参数(但一些比较复杂的功能不支持),同样是在 JVM 启动参数中配置即可,配置如下:

-Dcom.sun.management.jmxremote.ssl=false 

-Dcom.sun.management.jmxremote.authenticate=false
##设置 JVM 的 JMS 监控监听的 IP地址,主要是为了防止错误的监听成 127.0.0.1 这个内网地址
-Djava.rmi.server.hostname=192.168.71.38 
-Dcom.sun.management.jmxremote.port=1090 设置 JVM 的 JMS 监控的端口
-Dcom.sun.management.jmxremote.ssl=false 设置 JVM 的 JMS 监控不实用SSL
-Dcom.sun.management.jmxremote.authenticate=false 设置 JVM 的 JMS 监

3.9 GC日志

打印这些信息(到屏幕(默认也会到catalina.log 中)或者文件),具体参数如下:

-XX:+PrintGC:

输出形式:[GC 118250K->113543K(130112K), 0.0094143 secs] [Full GC 121376K->10414K(130112K), 0.0650971 secs]

-XX:+PrintGCDetails:

输出形式:[GC [DefNew: 8614K->781K(9088K),0.0123035 secs] 118250K->113543K(130112K), 0.0124633 secs] [GC

DefNew: 8614K->8614K(9088K), 0.0000665 secs 121376K->10414K(130112K),0.0436268 secs]

-XX:+PrintGCTimeStamps

-XX:+PrintGC:PrintGCTimeStamps 可与上面两个混合使用,

输出形式:11.851: [GC 98328K->93620K(130112K), 0.0082960secs]

-XX:+PrintGCApplicationConcurrentTime

打印每次垃圾回收前,程序未中断的执行时间。可与上面混合使用。

输出形式:Application time: 0.5291524seconds

-XX:+PrintGCApplicationStoppedTime

打印垃圾回收期间程序暂停的时间。可与上面混合使用。

输出形式:Total time for which application threads were stopped: 0.0468229 seconds

-XX:PrintHeapAtGC

打印 GC 前后的详细堆栈信息

-Xloggc:filename

与上面几个配合使用,把相关日志信息记录到文件以便分析

-verbose:class

监视加载的类的情况

-verbose:gc

在虚拟机发生内存回收时在输出设备显示信息

**-verbose:jni **

输出 native 方法调用的相关情况,一般用于诊断 jni 调用错误信息

3.10 事件处理模型优化

Tomat的4种连接方式对比

tomcat默认的http请求处理模式是bio(即阻塞型,下面第二种),每次请求都新开一个线程处理。下面做一个介绍

<Connector port="8081" protocol="org.apache.coyote.http11.Http11NioProtocol"   connectionTimeout="20000" redirectPort="8443"/>

<Connector port="8081" protocol="HTTP/1.1" connectionTimeout="20000"  redirectPort="8443"/>

<Connector executor="tomcatThreadPool"  port="8081" protocol="HTTP/1.1"  connectionTimeout="20000"  redirectPort="8443" />

<Connector executor="tomcatThreadPool"  port="8081" protocol="org.apache.coyote.http11.Http11NioProtocol"  connectionTimeout="20000"  redirectPort="8443" />

我们姑且把上面四种Connector按照顺序命名为 NIO, HTTP, POOL, NIOP。测试性能对比,数值为每秒处理的请求数,越大效率越高

NIO   HTTP   POOL  NIOP
281   65     208    365
666   66     110    398
692   65     66     263
256   63     94     459
440   67     145    363

得出结论:NIOP > NIO > POOL > HTTP 虽然Tomcat默认的HTTP效率最低,但是根据测试次数可以看出是最稳定的。且这只是一个简单页面测试,具体会根据复杂度有所波动。

配置参考:Linux系统每个进程支持的最大线程数是1000,windos是2000。具体跟服务器的内存,Tomcat配置的数量有关联。

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"              
  maxThreads="500" minSpareThreads="25" maxSpareThreads="250"              
  enableLookups="false" redirectPort="8443" acceptCount="300" 
  connectionTimeout="20000" disableUploadTimeout="true"/>