Ubuntu服务器上JSP并发处理技巧

Ubuntu服务器上JSP并发处理技巧

一架构与负载均衡

在 Ubuntu 上，JSP 通常由 Tomcat 执行，并发能力首先取决于连接器线程池与后端资源。单机优化到瓶颈后，使用 Nginx/HAProxy 做反向代理与负载均衡，横向扩展到多台 Tomcat 实例，可显著提升总体并发与可用性。Nginx 示例：
- 配置 upstream：
```
upstream tomcat_servers {
    server 127.0.0.1:8080;
    server 127.0.0.1:8081;
}
server {
    listen 80;
    location / {
        proxy_pass http://tomcat_servers;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;
    }
}
```
- 静态资源交由 Nginx 直接服务，动态请求反向代理到 Tomcat，降低应用服务器压力。

二 Tomcat与JVM关键配置

连接器线程与队列（建议通过共享 Executor 统一管理）：

<Executor name="tomcatThreadPool"
        namePrefix="catalina-exec-"
        maxThreads="500"
        minSpareThreads="30"
        maxIdleTime="60000"
        prestartminSpareThreads="true"
        maxQueueSize="100"/>

<Connector executor="tomcatThreadPool"
           port="8080" protocol="HTTP/1.1"
           connectionTimeout="20000"
           redirectPort="8443"
           enableLookups="false"
           compression="on"
           compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
           acceptCount="100"/>

要点：
- maxThreads 决定同时处理请求数，需结合 CPU 核数 与 I/O 等待 调整，避免过高导致上下文切换激增。
- acceptCount 是当线程耗尽时的排队长度，配合队列与快速失败策略保护后端。
- 关闭 enableLookups 减少阻塞 DNS 查询；开启 GZIP 减少传输体积。

JVM 建议（以 JDK 8+ 为例，使用 G1GC）：
```
JAVA_OPTS="$JAVA_OPTS -server \
  -Xms4g -Xmx4g \
  -XX:+UseG1GC \
  -XX:MaxGCPauseMillis=200 \
  -XX:+PrintGCDetails -Xloggc:$CATALINA_HOME/logs/gc.log"
```
- 建议堆大小与物理内存匹配，避免频繁 GC 与 OOM；生产环境优先 G1GC，关注 GC 停顿与吞吐的平衡。

三 Linux系统层面优化

文件描述符与进程数（提升可打开连接与并发线程上限）：

# /etc/security/limits.conf
* soft nofile 655360
* hard nofile 655360
* soft nproc  655360
* hard nproc  655360

网络与端口（提升连接建立与回收效率）：

# /etc/sysctl.conf
net.core.somaxconn = 8192
net.ipv4.tcp_max_syn_backlog = 8192
net.ipv4.ip_local_port_range = 10000 65000
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_max_tw_buckets = 10000
net.core.rmem_max = 1310720
net.core.wmem_max = 1310720
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_syn_retries = 1

调整后执行：sysctl -p --system。注意不同内核版本对 tcp_tw_recycle 的支持差异，生产谨慎启用。

四应用与数据库层优化

代码与页面：
- 减少 JSP 中的 Java 脚本，使用 JSTL/EL；启用 JSP 预编译 与关闭开发模式的自动重载，降低运行时开销。
- 合并/压缩 CSS/JS，使用 CDN 分发静态资源；开启 GZIP 输出；对耗时任务采用 Ajax 异步 与 异步 Servlet。
数据与缓存：
- 使用 HikariCP/C3P0/DBCP 等连接池，合理设置最大连接数与超时；优化 SQL 与索引，必要时 分库分表/读写分离。
- 引入 Redis/Memcached 做热点数据缓存，减少数据库压力；对突发流量使用 消息队列（RabbitMQ/Kafka） 削峰填谷。
稳定性与治理：
- 实施 限流/降级（如 Guava RateLimiter 或 Redis 令牌桶），保障核心链路稳定；规范 HttpSession 使用，避免无必要的会话创建。

五压测与监控闭环

压测：使用 Apache JMeter 创建线程组与 HTTP 请求，配置并发线程数、循环与监听器（如聚合报告），验证 吞吐量/响应时间/错误率 等指标，指导参数调优。
监控与诊断：
- 系统层：top/htop、free -m、df -h、iftop 观察资源瓶颈。
- 应用层：JConsole/VisualVM/JMC 观察线程、堆与 GC；分析 catalina.out、localhost.log* 与 GC 日志定位问题。
- APM：接入 New Relic/Datadog 获取全链路指标与告警，结合业务指标持续优化。

最新问答

相关标签