Ubuntu 环境下常用的 HDFS 性能测试方法
一 内置基准工具
- TestDFSIO：评估 HDFS 顺序读写的吞吐与稳定性。常用命令：写测试 hadoop jar $HADOOP_HOME/share/hadoop/mapreduce/hadoop-mapreduce-client-jobclient-*.jar TestDFSIO -write -nrFiles 10 -fileSize 128MB；读测试将 -write 换为 -read；测试后清理用 -clean。关注指标：Total MBytes processed、Throughput mb/sec、Average IO rate mb/sec、IO rate std deviation、Test exec time sec。适合做版本对比与容量规划。
- Terasort：综合评估 HDFS + MapReduce 的排序能力与端到端吞吐。流程：生成数据 teragen → 排序 terasort → 校验 teravalidate。通过调整 map 数 与 dfs.block.size 可构造不同并发与块大小场景，结果以单位时间处理数据量衡量。
- SliveTest：面向 NameNode RPC 的压力与稳定性测试，可配置 maps、ops、read/write/append/create/delete 等操作占比、blockSize、readSize/writeSize、sleep 等，模拟大量元数据操作以发现 NN 瓶颈。
- NNBench / MRBench：NNBench 测试 NameNode 元数据并发与负载能力；MRBench 多次运行小作业以评估 MapReduce 调度与作业启动开销，适合回归验证。
- 随机数据/排序验证工具：randomwriter / randomtextwriter 生成大规模数据，testmapredsort 校验排序正确性，常与 Terasort 搭配使用。
二 通用与业务基准
- HiBench：大数据基准套件，覆盖 Hadoop/Spark 等多框架，包含 WordCount、Sort、PageRank 等典型负载。通过配置 hadoop.conf / spark.conf 与 frameworks.lst 选择用例，执行如 ./bin/run_all.sh，适合端到端性能回归与对比。
- Dynamometer：在有限资源下模拟更大规模集群的 HDFS 行为，便于评估 NameNode 在近似生产元数据规模下的表现，适合容量与伸缩性验证。
三 硬件与系统层排查
- 磁盘 I/O 基线：在上线或压测前用 fio 建立磁盘性能基线（排除 HDFS 层干扰）。示例：顺序读 fio -rw=read -bs=16k -numjobs=10 -size=2G -runtime=60 -group_reporting；顺序写 fio -rw=write；随机写 fio -rw=randwrite；混合随机读写 fio -rw=randrw -rwmixread=70。同时可用 hdparm -tT --direct /dev/sdX 与 time+dd 做快速复核。
- 网络带宽：用 iperf3 在节点间测试 TCP 带宽/抖动，确认是否成为 HDFS 吞吐上限的瓶颈。
四 监控与诊断方法
- 日志与 Metrics：分析 NameNode/DataNode 日志，结合 HDFS Metrics 与 Ganglia/Prometheus 观察 RPC 处理时间、IOPS、Sync 次数 等关键指标，定位慢操作与热点。
- 健康检查与负载均衡：用 hadoop fsck 检查文件块健康与缺失；用 hadoop balancer 均衡块分布，避免数据倾斜造成性能偏差。
- 基准回归：在变更前后运行 TestDFSIO/Terasort/SliveTest 等基准，形成可对比的性能基线。
五 测试流程与注意事项
- 环境准备：尽量使用与生产一致的 Hadoop 版本、JDK、操作系统（Ubuntu） 与 存储/网络 配置；清理无关作业与数据，避免干扰。
- 单变量原则：一次只调整一个变量（如 block size、并发 map 数、副本数、压缩、存储策略），便于归因。
- 数据规模：让总数据量与 集群容量 相匹配，避免测试数据过小导致缓存效应；必要时进行 多轮预热。
- 结果记录：统一记录 吞吐（MB/s）、平均/标准差、作业耗时、失败重试 等，并保留 日志与配置快照 以便复现。
- 干扰项控制：压测期间关闭会抢占 NameNode 资源的服务（如 SecondaryNameNode、Balancer、RaidNode），减少非测试负载影响。
