如何提高Linux Tomcat并发能力

提升 Linux 上 Tomcat 并发能力的实用方案

一架构与瓶颈识别

明确并发类型：是短连接高 QPS还是长连接/慢查询为主，不同场景的线程与连接策略差异很大。
建立基线：用JMeter/Locust做压测，记录P95/P99 延迟、错误率、线程池活跃数、队列堆积、CPU/内存/网络 IO，每次只调整一个变量并对比基线。
关注系统层：确认瓶颈在Tomcat线程池/连接器，还是数据库/外部依赖，或网络与文件描述符。

二 Tomcat 线程池与连接器优化

使用共享线程池 Executor（推荐）：多个 Connector 共享同一线程池，便于统一治理与复用。

典型配置示例（server.xml）：

<Executor name="tomcatThreadPool"
        namePrefix="catalina-exec-"
        maxThreads="500"
        minSpareThreads="50"
        maxIdleTime="60000"
        prestartminSpareThreads="true"
        maxQueueSize="100"/>

<Connector port="8080"
           protocol="org.apache.coyote.http11.Http11Nio2Protocol"
           executor="tomcatThreadPool"
           connectionTimeout="20000"
           redirectPort="8443"
           enableLookups="false"
           compression="on"
           compressionMinSize="2048"
           compressableMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript"
           URIEncoding="UTF-8"/>

关键参数建议与取舍
- maxThreads：并发处理线程上限。经验值可在200–800起步，结合CPU 核数、GC 停顿、业务耗时压测调优；并非越大越好，过多线程带来上下文切换与内存占用上升。
- minSpareThreads：保持的最小空闲线程，建议≥50，并开启prestartminSpareThreads以减少冷启动延迟。
- acceptCount：当线程耗尽时的排队队列长度。队列过长会增大排队时延，过短会提高连接拒绝概率，需与 maxThreads 联动调整。
- maxConnections：Tomcat 能接受的最大连接数（含排队与处理中），高并发短连接场景可适当提高，避免连接被过早拒绝。
- protocol：优先使用NIO/NIO2；需要极致性能且环境允许时再考虑APR。
- 压缩与静态资源：开启Gzip 压缩、设置Cache-Control与静态资源缓存，降低带宽与时延。

三 JVM 与垃圾回收调优

堆与元空间：设置**-Xms 与 -Xmx 等值**（如**-Xms2g -Xmx2g**）避免运行期扩缩堆带来的抖动；元空间设置**-XX:MetaspaceSize/-XX:MaxMetaspaceSize**（如256m/512m）。
GC 选择：多核与大堆建议G1 GC（如**-XX:+UseG1GC**），追求高吞吐可考虑Parallel GC；配合**-XX:MaxGCPauseMillis**与停顿目标做权衡。

示例（catalina.sh）：

export JAVA_OPTS="\
  -Xms2g -Xmx2g \
  -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m \
  -XX:+UseG1GC \
  -XX:MaxGCPauseMillis=200 \
  -XX:+PrintGC -XX:+PrintGCDetails -Xloggc:/opt/tomcat/logs/gc.log"

原则：让GC 停顿与并发线程数共同服务于目标P95/P99与吞吐，以压测结果微调。

四 Linux 系统层优化

文件描述符限制：提升进程可打开文件数，编辑**/etc/security/limits.conf**
```
* soft nofile 65536
* hard nofile 65536
```

内核网络参数（/etc/sysctl.conf 或 sysctl -w 临时生效）：

net.core.somaxconn = 4096
net.ipv4.tcp_tw_reuse = 1
# 仅在明确收益且网络拓扑简单时考虑（NAT/跨机房慎用）
# net.ipv4.tcp_tw_recycle = 1

透明大页（THP）：可能导致延迟抖动与内存碎片，建议关闭

echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

说明：上述参数需结合业务流量模型与内核版本验证，变更后回归压测。

五数据库与缓存及监控落地

数据库连接池：使用HikariCP/DBCP2等，合理设置最大连接数、最小空闲、获取超时；避免应用端连接泄漏与wait_timeout导致的失效连接。
- 示例（DBCP2，context.xml）：
```
<Resource name="jdbc/mydb" auth="Container" type="javax.sql.DataSource"
          maxTotal="100" maxIdle="30" maxWaitMillis="10000"/>
```
缓存与减负：对热点数据使用Redis/Ehcache，对静态资源启用CDN/浏览器缓存与压缩，降低后端压力。
监控与迭代：通过JMX + VisualVM/JConsole观察线程池活跃数、队列、GC 次数/停顿、HTTP 500/超时；用Prometheus + Grafana搭建可视化看板，按指标持续迭代参数。

最新问答

相关标签