在 Debian 上对 Tomcat 进行性能测试与监控
一 测试准备与基线
- 隔离环境：在非生产机器或隔离网络进行，避免影响真实业务；测试前统一JDK/Tomcat版本、应用版本、数据库与缓存配置，保证可复现。
- 预热与稳定：先以低并发运行应用至JVM预热完成（避免JIT编译影响），再进行正式压测；每次变更只改一个变量，便于归因。
- 监控就位：同步开启系统资源监控与JVM/Tomcat监控，便于在压测过程中定位瓶颈（CPU、内存、I/O、线程、连接、GC 等）。
- 数据记录：保存每次测试的命令、参数、结果、配置与日志，便于回放与对比。
二 工具选型与安装
- 应用层压测
- Apache JMeter：图形化/命令行均可，支持HTTP/HTTPS、POST/JSON、CSV 参数化、定时器、断言、分布式压测，适合复杂业务链路与报表分析。
- wrk / wrk2：轻量高性能 HTTP 基准测试，适合长连接、高并发、持续压测场景。
- ApacheBench（ab）：简单快速，适合GET/POST基础吞吐与延迟验证。
- 系统与 JVM 监控
- 系统工具：top/htop、vmstat、free、df、netstat/ss 观察CPU、内存、I/O、网络与连接。
- JMX 与可视化：JConsole、VisualVM 连接 Tomcat 的 JMX 端口，实时查看堆内存、线程、类加载、MBean 等。
- APM/主机监控：JavaMelody、Lambda Probe、Prometheus+node_exporter、Zabbix、Nagios 等用于长期观测与告警。
- 安装示例（Debian）
- 压测工具：sudo apt-get install -y apache2-utils wrk jmeter（jmeter 亦可用官方二进制包）。
- 监控工具：sudo apt-get install -y htop sysstat nload iftop；JDK 自带 jconsole/jvisualvm。
三 执行测试的步骤与示例
- 步骤
- 部署被测应用并校验功能；准备代表性接口/页面（含数据库读写、静态资源、可能的慢查询）。
- 启动 Tomcat，确认监听 8080/8009 等端口与应用可访问。
- 启动监控（系统 + JMX/VisualVM），记录基线指标。
- 设计递增并发场景（如并发从低到高，每档持续5–15 分钟），观察吞吐、延迟、错误率与资源利用。
- 每个场景重复2–3 次取稳定值，避免偶发波动；出现异常（如连接超时、5xx、GC 长停）及时降载并记录现场。
- 压测后做日志与 GC 分析，定位瓶颈并调整配置，随后回归测试验证收益。
- 示例命令
- wrk（HTTP 长连接压测）：
wrk -t12 -c100 -d30s http://<Tomcat_IP>:8080/app/test
含义：12 线程、100 并发连接、持续 30 秒。
- ab（简单吞吐与延迟）：
ab -n10000 -c200 -p data.json -T application/json http://<Tomcat_IP>:8080/app/api
含义：1 万请求、200 并发、POST JSON。
- JMeter：在 GUI 中创建线程组（并发/循环）、HTTP 请求采样器、定时器/断言/监听器，或使用非 GUI 命令行执行并生成报告。
四 关键指标与监控方法
- 核心指标
- 吞吐率（Requests per second, RPS）：单位时间处理请求数，越高越好。
- 响应时间（Average/95th/99th Percentile）：用户感知延迟与尾时延。
- 并发连接/活跃线程：连接池与线程池利用情况。
- 错误率与超时率：HTTP 5xx/4xx、连接超时、读取超时。
- JVM 指标：堆内存使用、GC 次数/停顿时间、类加载、线程数。
- 系统资源：CPU 利用率、负载、内存与 I/O（磁盘/网络）。
- 如何获取
- 系统层：top/htop、vmstat、free、df、ss -s、nload/iftop、iostat（来自 sysstat）。
- JMX/应用层：JConsole/VisualVM 直连 Tomcat 的 JMX 端口，查看Memory、Threads、Catalina/Connector MBeans；或部署 JavaMelody/Lambda Probe 观察请求、SQL、会话、线程等。
- 日志层：tail -f catalina.out；分析访问日志（如 localhost*.log）统计每分钟请求数、响应时间分布、错误率；必要时抓取**线程转储（jstack）**定位阻塞/死锁。
五 结果分析与常见瓶颈
- 结果判读
- 吞吐率不再随并发增长、P95/P99 明显上升：多为应用或数据库瓶颈（锁竞争、慢 SQL、连接池不足）。
- CPU 接近 100% 且 RPS 低：计算密集或垃圾回收频繁；检查GC 日志与热点方法。
- 大量 TIME_WAIT/连接超时：可能短连接过多、连接未及时释放或backlog 不足；优化Keep-Alive、连接池、内核/容器网络。
- 磁盘 I/O 高：日志/临时文件/数据库写入频繁；考虑异步日志、批量提交、更快存储。
- 快速优化方向
- JVM：合理设置 -Xms/-Xmx（通常设为相同）、选择合适的 GC 策略，并开启GC 日志持续观测。
- Tomcat：调优 线程池（maxThreads、minSpareThreads、acceptCount）、开启HTTP/2、优化JDBC 连接池（最大连接、超时、验证查询）。
- 架构：引入反向代理/负载均衡、静态资源 CDN、缓存（如 Redis）、异步与批处理，减少数据库热点。
