centos为何hdfs速度慢

在 CentOS 上运行 HDFS 时出现“速度慢”的问题，通常不是单一原因，而是系统、网络、HDFS 配置、硬件等多方面叠加导致的。下面按常见原因分类说明，并给出排查和优化建议。

一、网络问题（最常见）

1. 网卡速率/双工模式异常

CentOS 默认可能协商成 100Mbps 或半双工。

排查：

ethtool eth0

看 Speed 和 Duplex。

解决：

ethtool -s eth0 speed 1000 duplex full autoneg off

（或检查交换机）

2. 防火墙 / SELinux

CentOS 默认开启 firewalld 和 SELinux，会严重影响 RPC 性能。

检查：

systemctl status firewalld
getenforce

建议（测试环境）：

systemctl stop firewalld
setenforce 0

3. 网络延迟或丢包

HDFS 对延迟敏感。

ping namenode
iperf -c datanode

二、磁盘 IO 问题

1. 磁盘本身是瓶颈

HDFS 写数据会：

• 写本地磁盘
• 网络传副本
• 再写磁盘

排查：

iostat -x 1

看 %util 和 await

优化：

• 使用独立数据盘（不要和 OS 混）
• 使用 ext4 / xfs
• 禁用 atime

mount -o noatime /dev/sdb /data

2. CentOS 默认 IO 调度器不合适

HDD 推荐 deadline，SSD 推荐 noop

cat /sys/block/sdb/queue/scheduler

修改：

echo deadline > /sys/block/sdb/queue/scheduler

三、HDFS 配置问题

1. 副本数过高（默认 3）

小集群或测试环境可改为 1~2。

<property>
  <name>dfs.replication</name>
  <value>2</value>
</property>

2. 块大小太小

默认 128MB，小文件多会非常慢。

<property>
  <name>dfs.blocksize</name>
  <value>268435456</value>
</property>

3. NameNode / DataNode 内存不足

GC 频繁导致卡顿。

jstat -gcutil <pid> 1000

建议：

• NameNode：4G+
• DataNode：2G+

四、CentOS 系统参数问题

1. 文件描述符限制

HDFS 会打开大量文件。

ulimit -n

修改：

* soft nofile 65536
* hard nofile 65536

2. swap 导致性能骤降

free -m
swapon -s

建议：

sysctl vm.swappiness=10

3. 透明大页（THP）

Hadoop 官方明确不建议开启。

cat /sys/kernel/mm/transparent_hugepage/enabled

关闭：

echo never > /sys/kernel/mm/transparent_hugepage/enabled

五、HDFS 使用方式问题

• 大量小文件（HDFS 的死敌）
• 单线程写
• 客户端和集群跨机房
• 使用 hadoop fs -put 而非 distcp

六、快速自查清单（建议顺序）

1. ethtool 看网卡
2. iostat 看磁盘
3. 关 firewalld / SELinux
4. 看 dfs.replication
5. 看 JVM GC
6. 看 ulimit / swappiness / THP

如果你愿意，可以告诉我：

• CentOS 版本
• Hadoop 版本
• 集群规模（几台、什么硬件）
• 是 读慢 还是 写慢

我可以给你一套针对性的优化方案。