CentOS 上 Dolphin 的性能监控与调优
一 目标与名词澄清
- 在 CentOS 场景中，“Dolphin”常见指代有三类：DolphinScheduler（工作流调度）、DolphinDB（分布式时序数据库）、KDE 的 Dolphin 文件管理器。前两者需要系统级与应用级协同优化，后者主要是桌面环境体验优化。下文分别给出要点与可操作建议。
二 快速定位与监控路径
- 系统层监控（通用）
- 资源总览与瓶颈定位：top/htop、vmstat、iostat、iftop、nethogs、sar（CPU、内存、磁盘 I/O、网络、负载）。
- 文件系统与挂载：df -h、mount（关注可用空间、inode、挂载选项如 noatime/nodiratime）。
- 连接与端口：ss -s、netstat -tulpen（TIME_WAIT、ESTAB、丢包重传、半连接队列）。
- 应用层监控
- DolphinScheduler
- 使用 Web 界面查看任务状态、日志、失败告警；按业务设置 作业优先级与依赖，避免不必要的等待；为作业精确配置 CPU/内存/存储 配额，减少资源争用。
- DolphinDB
- 开启性能监控：在 dolphindb.cfg 设置 perfMonitoring=true（集群由 Controller 统一控制）；通过内置函数 getPerf()、getClusterPerf()、getJobStat() 获取节点与集群指标；Web 界面可查看 memUsed、memAlloc、medLast10QueryTime、maxRunningQueryTime、networkSend/RecvRate、diskRead/WriteRate、connectionNum 等；工作日志默认在 log/nodeAlias_job.log，可用 jobLog 参数自定义路径与名称。
三 DolphinDB 专项优化
- 内存与缓存
- 合理设置 maxMemSize：建议不超过物理内存的 70%–75%；例如 16GB 内存的节点可先设为 ~12GB，避免触发 OOM 或系统强制结束进程；DolphinDB 以 分区列 为最小加载单位，未命中缓存时会整列/整分区加载，合理分区可显著降低内存峰值与 “out of memory”。
- 存储与 I/O
- 建议将 元数据、WAL/redo log 与数据体 分离到不同磁盘，优先使用 SSD 承载高随机写负载；文件系统优先 XFS（或 ext4），挂载选项使用 noatime/nodiratime 减少元数据写放大。
- 查询与执行
- 充分利用 分区剪枝、列裁剪、谓词下推；避免 SELECT *，只读取必要列；对大表聚合/排序尽量在分区内完成；对高并发点查，控制分区粒度与常用列规模，减少一次性加载的数据量。
- 运行库与并发
- 在 高并发+多分区 场景，旧版 glibc < 2.23 的 fseek 可能成为瓶颈；可通过 patchelf 调整 rpath/interpreter 使用高版本 glibc（如 2.23+）以在不升级系统的前提下获得明显加速（务必充分回归测试）。
- 网络
- 高并发/大数据传输场景优先 10GbE 或更高带宽；结合 网卡多队列 与合理的 中断绑定/队列亲和 提升吞吐与延迟稳定性。
四 DolphinScheduler 专项优化
- 资源与队列
- 在 Web 界面为关键作业设置 高优先级 与 资源配额（CPU/内存）；合理设计 依赖关系 与 工作流 DAG，减少串行等待与资源空转；对长时任务启用 异步处理/状态回写，降低主流程阻塞。
- 集群与高可用
- 依赖 Zookeeper 做集群管理与选主；确保 Controller/Master/Worker 角色资源隔离；按业务峰谷配置 Worker 并发度 与 队列长度，避免过载导致雪崩。
- 监控与告警
- 启用 任务失败/超时告警 与 关键指标监控（如任务积压、执行时长 P95/P99）；结合日志聚合与可视化，快速定位异常作业与瓶颈节点。
五 系统层参数与存储建议
- 内核与网络（示例值，需结合压测微调）
- 内存与脏页：vm.swappiness=10；vm.dirty_background_ratio=5；vm.dirty_ratio=10（降低 swap 倾向，平滑刷脏，避免抖动）。
- TCP/连接：net.ipv4.tcp_tw_reuse=1；net.ipv4.tcp_fin_timeout=30；net.ipv4.tcp_keepalive_time=1200；net.ipv4.ip_local_port_range=“1024 65535”；net.ipv4.tcp_max_syn_backlog=8192；net.core.somaxconn=1024；net.core.netdev_max_backlog=2000（加速连接复用、缩短回收、扩大队列，缓解高并发建连压力）。
- 文件系统与挂载
- 选择 XFS/ext4，挂载选项 noatime,nodiratime；确保 /var/lib、/opt、/data 等关键路径使用独立磁盘或 LVM 条带化；定期清理 日志/临时文件，避免 inode/空间耗尽。
- 安全与变更
- 任何参数变更前在 测试环境验证；变更后持续观察 sar/监控大盘 至少 1–2 个业务周期；对 DolphinDB 与 DolphinScheduler 的配置文件与元数据做 版本化备份，便于快速回滚。
