为何Tomcat连接数达到上限

Tomcat连接数触顶的常见根因

• 业务并发超过处理能力：Tomcat 能“同时处理”的请求受 maxThreads 限制（默认 200）。当并发请求数超过该值，新的请求即使已建立连接，也会被放入队列或等待，表现为吞吐下降、排队超时，极端时出现连接被拒绝。若使用外部 Executor，Connector 的 maxThreads 会被忽略，此时瓶颈在 Executor 的队列与线程上限。
• 连接建立速率高于应用消费速率：Tomcat 层面能“同时接受”的连接由 maxConnections 限制（NIO 默认 10000，APR 默认 8192，BIO 默认等于 maxThreads）。当已建立连接数达到 maxConnections，Acceptor 暂停从 accept 队列取连接，队列继续积压；若积压超过 acceptCount（默认 100），新连接将被拒绝或重置。acceptCount 的上限同时受内核 net.core.somaxconn 约束，常见系统默认 128，因此“队列满”既可能是 Tomcat 配置过小，也可能是内核队列过小。
• 内核与端口资源瓶颈：短连接高并发时，大量连接处于 TIME_WAIT，会占用有限的本地端口（默认 ip_local_port_range 1024–65000）和文件描述符；若 file-max / ulimit -n 过低，进程无法再分配新句柄，表现为新连接失败或非常缓慢。
• 应用未正确关闭连接：若服务端未正确关闭输出流/连接，客户端会长时间停留在 CLOSE_WAIT，句柄被占满，最终无法再建立新连接。
• 数据库等下游资源不足：当后端（如 MySQL）“最大连接数”或连接池上限较低，线程会阻塞在获取连接上，等效于 Tomcat 处理能力下降，间接导致连接堆积与拒绝。

快速自检步骤

1. 查看 Tomcat 线程与连接器配置：确认当前 maxThreads、是否使用外部 Executor 及其 maxQueueSize、以及 maxConnections/acceptCount 的取值与搭配是否合理。
2. 观察连接状态分布：统计 ESTABLISHED / TIME_WAIT / CLOSE_WAIT 的数量与增长趋势（如 netstat/ss）。TIME_WAIT 过多提示短连接回收压力大；CLOSE_WAIT 过多提示应用未关闭连接。
3. 检查系统资源：
   • 句柄与进程限制：cat /proc/sys/fs/file-max、ulimit -n、/proc//fd | wc -l
   • 端口范围：cat /proc/sys/net/ipv4/ip_local_port_range
   • 内核队列：cat /proc/sys/net/core/somaxconn
4. 抓取网络与内核日志：高峰期用 ss -lntp 观察 Recv-Q 是否长期打满；必要时配合抓包与内核日志定位是队列溢出还是应用层异常。

优化与配置建议

• 合理搭配 Tomcat 参数：
  • 提升处理能力：适度提高 maxThreads（如 500–1000，视 CPU/内存而定），避免线程过多导致上下文切换与内存开销激增。
  • 提高可接受的并发连接：在 NIO/APR 下适度提高 maxConnections（如 20000/16384），避免过早触发“已达最大连接”。
  • 调整队列与内核协同：将 acceptCount 提升到与业务峰值相匹配（如 1000–2048），并同步提升 net.core.somaxconn，否则 acceptCount 不会生效到预期值。
  • 控制排队策略：若使用外部 Executor，务必设置有限的 maxQueueSize 与合理的拒绝策略，避免“无限排队”耗尽资源。
• 缓解端口与句柄压力：
  • 扩大本地端口范围（如 60000–65535），开启 tcp_tw_reuse（谨慎评估），缩短 tcp_fin_timeout，减少 TIME_WAIT 占用。
  • 提升进程可用文件句柄与系统级句柄上限（/etc/security/limits.conf、/proc/sys/fs/file-max）。
• 修复应用连接泄漏：确保所有响应流/连接在使用后按协议正确关闭；对数据库访问使用连接池并配置合理的最大连接数与超时。
• 协同优化下游：当数据库或外部依赖成为瓶颈时，同步提升其最大连接数与连接池配置，避免线程在获取连接上长时间阻塞。

典型现象与对应处置