CentOS 上 Kafka 磁盘性能与稳定性优化指南
一 硬件与存储布局
- 介质选择：优先使用SSD；若是HDD，建议做RAID10或直接使用JBOD。Kafka 以顺序写为主，JBOD 配合多磁盘并行写入能提升吞吐，避免 RAID5 的写惩罚。多盘时，将不同磁盘挂载路径配置到 log.dirs，让分区在磁盘间均衡分布。示例：log.dirs=/disk1/kafka-logs,/disk2/kafka-logs。文件系统推荐 XFS/EXT4，挂载选项加上 noatime,nodiratime 减少元数据写入。若使用机械盘，IO 调度器用 mq-deadline（SSD 可用 none）。
二 操作系统层优化
- 内存与刷脏：Kafka 强依赖 Page Cache，建议将 vm.swappiness 设为极低值（如 1），避免 swap 引发长停顿；脏页阈值建议：vm.dirty_background_ratio=3–5，vm.dirty_ratio=20–25，vm.dirty_expire_centisecs=30000，在保证稳定性的前提下让内核进行批量刷盘。
- 文件系统与挂载：选择 XFS/EXT4，挂载参数使用 noatime,nodiratime 降低不必要的元数据更新。
- I/O 调度与预读：HDD 设置 mq-deadline；根据访问模式调整预读，顺序读较多的场景可适当增大 read_ahead_kb（如 16KB 起步，结合监控再调）。
- 资源与网络：提高文件句柄与进程数限制（limits.conf 中 kafka 用户 soft/hard nofile 至100000+，nproc 至65535）；适度增大 socket 缓冲（如 net.core.wmem_default/rmem_default=128KB，net.core.wmem_max/rmem_max=2MB；对应 tcp_wmem/tcp_rmem 同步放大），提升大批次传输稳定性。
三 Kafka 关键参数建议
- 刷盘策略（减少随机小 IO）：log.flush.interval.messages=50000，log.flush.interval.ms=5000（HDD 场景显著减少刷盘次数，注意这是在持久性与延迟间的权衡）。
- 段与压缩：log.segment.bytes=2147483648（2GB，减少段切换与文件数量）；compression.type=snappy（低 CPU 开销、约 30–50% 压缩率，适配小消息日志场景）。
- 保留与空间治理：log.retention.hours=48（按业务 SLA 调整）；必要时叠加 log.retention.bytes 做“容量硬上限”，避免磁盘被撑爆。
- 分区与副本：num.partitions（按并发与吞吐规划，避免全局默认值过大）；default.replication.factor=3（生产建议 3 副本）；min.insync.replicas=2 配合生产者 acks=all，在可靠性与可用性间取得平衡（2 节点集群不建议设 2，否则写入会变为只读）。
- 副本同步与拉取：replica.fetch.max.bytes=10485760（10MB，提升 follower 同步吞吐）；replica.lag.time.max.ms=30000（HDD 同步慢时避免误判下线）；num.replica.fetchers 可适当增加以提升副本并发拉取能力（结合 CPU/IO 资源权衡）。
- 网络与线程：num.network.threads≈CPU 核数×0.75（如 8 核→6）；num.io.threads≈CPU 核数×2（如 8 核→16）；socket.send/receive.buffer.bytes=2097152（2MB）。
四 JVM 与 Page Cache 协同
- 堆大小与回收器：在 32GB 内存的节点，堆建议 12GB（不超过物理内存的50%），使用 G1GC；示例：KAFKA_HEAP_OPTS=“-Xms12G -Xmx12G -XX:+UseG1GC -XX:G1NewSizePercent=25 -XX:G1MaxNewSizePercent=60 -XX:G1HeapRegionSize=32M -XX:MaxGCPauseMillis=25 -XX:+ParallelRefProcEnabled -XX:G1MixedGCLiveThresholdPercent=90 -Xlog:gc*:logs/kafka-gc.log:time,level,tags:filecount=10,filesize=100M”。这样可控制 GC 停顿、减少堆占用，把更多内存留给 Page Cache 以加速顺序 I/O。
五 落地步骤与验证
- 安全变更：先备份 server.properties、启动脚本与系统参数；按“单节点灰度→观察 24 小时→滚动全量→观察 48 小时”推进，任何异常立即回滚（恢复备份配置并重启）。
- 基准与压测：优化前后使用 kafka-producer-perf-test.sh 固定消息大小（如 1KB）、分区数与目标 TPS，对比 P95/P99 延迟、IOPS、CPU、GC 耗时与 Page Cache 命中率，确保优化收益可复现。
- 运行期治理：监控磁盘使用率，超过阈值优先“缩短保留时间”或“扩容磁盘/节点”；设置告警（如 P99 延迟、GC 耗时占比、副本不同步数），并定期复盘参数与容量。
