怎样提高Ubuntu Tomcat的并发处理能力

Ubuntu 上提升 Tomcat 并发处理能力的实用方案

一架构与模式选择

采用Nginx 反向代理 + Tomcat 集群，配合动静分离与缓存，让 Nginx 承担静态资源与连接复用，Tomcat 专注动态业务，整体吞吐可显著提升。Nginx 侧开启长连接与压缩，后端 Tomcat 使用 HTTP/1.1 与 keep-alive 对接。对于长连接/推送类场景，优先 NIO2；追求极限本地性能可启用 APR（需安装 native 库）。若当前仍用 AJP 且前面有 Nginx，建议直接禁用 AJP 连接器，减少不必要协议开销。

二 Tomcat 连接器与线程池关键参数

使用独立线程池并优化 Connector（示例为 4 核 8GB 机器的稳妥起步值，需压测微调）：

<Executor name="tomcatThreadPool"
          namePrefix="catalina-exec-"
          maxThreads="800"
          minSpareThreads="80"
          maxIdleTime="60000"
          prestartminSpareThreads="true"
          maxQueueSize="1000"/>

<Connector port="8080"
          protocol="org.apache.coyote.http11.Http11NioProtocol"
          executor="tomcatThreadPool"
          maxConnections="10000"
          acceptCount="1000"
          connectionTimeout="20000"
          keepAliveTimeout="60000"
          maxKeepAliveRequests="100"
          compression="on"
          compressionMinSize="2048"
          compressibleMimeType="text/html,text/xml,text/plain,text/css,text/javascript,application/javascript,application/json"
          URIEncoding="UTF-8"
          enableLookups="false"
          disableUploadTimeout="true"
          maxHttpHeaderSize="8192"
          redirectPort="8443"/>

关键取舍与计算
- maxThreads：建议从 CPU 核心数 × 100~200 起步；也可用公式估算：maxThreads ≈ (目标 QPS × 响应时间ms) / 1000，过高会因上下文切换与内存占用而回落。
- maxConnections：通常设为 maxThreads 的 10~20 倍，以容纳排队与长连接。
- acceptCount：连接队列长度，常见 1000~2000；队列满时新连接可能被拒绝或超时，需要结合压测与业务容忍度设置。
- keepAliveTimeout / maxKeepAliveRequests：复用连接减少握手开销，建议 60s~120s / 100~1000。

三 JVM 与系统资源调优

JVM（置于 bin/setenv.sh 的 JAVA_OPTS，示例为 4 核 8GB）：

JAVA_OPTS="$JAVA_OPTS -Xms4g -Xmx4g"
JAVA_OPTS="$JAVA_OPTS -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m"
JAVA_OPTS="$JAVA_OPTS -XX:+UseG1GC -XX:MaxGCPauseMillis=200"
JAVA_OPTS="$JAVA_OPTS -XX:+ParallelRefProcEnabled"
JAVA_OPTS="$JAVA_OPTS -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/var/log/tomcat/heap_dump.hprof"
JAVA_OPTS="$JAVA_OPTS -Xloggc:/var/log/tomcat/gc.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps"
JAVA_OPTS="$JAVA_OPTS -Djava.security.egd=file:/dev/./urandom -Duser.timezone=Asia/Shanghai"

Ubuntu 系统侧
- 文件描述符与进程数：在 /etc/security/limits.conf 增加
```
* soft nofile 65535
* hard nofile 65535
* soft nproc  65535
* hard nproc  65535
```
  并在 systemd 服务单元设置 LimitNOFILE=65535（若以 systemd 管理 Tomcat）。
- 内核网络（/etc/sysctl.conf，按需逐步放大并 sysctl -p 生效）：
```
fs.file-max = 1000000
net.core.somaxconn = 65535
net.core.netdev_max_backlog = 65535
net.ipv4.tcp_max_syn_backlog = 65535
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_keepalive_time = 600
net.ipv4.tcp_keepalive_intvl = 15
net.ipv4.tcp_keepalive_probes = 5
```
- 说明：在 JDK 11/17 场景优先 G1GC；超大堆（>100GB）可考虑 ZGC。以上网络与文件句柄调优能缓解高并发下的连接排队、握手与 TIME_WAIT 压力。

四 Nginx 与前端协同优化

反向代理到 Tomcat 的关键要点（示例片段）：

upstream backend {
  server 127.0.0.1:8080;
  keepalive 256;              # 复用到 Tomcat 的长连接数
  keepalive_requests 1000;
  keepalive_timeout 60s;
}

server {
  listen 80;
  location / {
    proxy_pass http://backend;
    proxy_http_version 1.1;
    proxy_set_header Connection "";
    proxy_set_header Host $host;
    proxy_set_header X-Real-IP $remote_addr;
    proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
    proxy_set_header X-Forwarded-Proto $scheme;

    proxy_connect_timeout 10s;
    proxy_send_timeout 60s;
    proxy_read_timeout 60s;
  }

  # 静态资源缓存
  location ~* \.(jpg|jpeg|png|gif|ico|css|js|woff2)$ {
    expires 30d;
    add_header Cache-Control "public, immutable";
    access_log off;
  }
}

建议：开启 sendfile、tcp_nopush、tcp_nodelay，适度开启 gzip，为静态资源设置长 Cache-Control；必要时对 API 做 限流/熔断，保护后端。

五监控与压测闭环

监控与诊断
- Tomcat/JVM：JConsole / VisualVM / JMX 观察线程池、请求耗时、GC 次数与停顿；开启 GC 日志 分析停顿与回收效率；发生 OOM 时结合 HeapDump 定位泄漏点。
- 系统与 Nginx：关注 连接数、队列溢出、错误率、RT；Nginx 开启缓冲与静态缓存，减少回源压力。
压测与迭代
- 使用 JMeter 进行阶梯并发与峰值压测，围绕目标 QPS/RT/错误率 三指标迭代参数；优先做代码与 SQL 优化、连接池调优、缓存与异步化，再调 Tomcat/Nginx/内核参数，避免“参数先行”。

最新问答

相关标签