你这个问题表述比较简略,我按常见情况给你分析一下:在 CentOS 上 HDFS 很慢,可能的原因有哪些,以及怎么查。
HDFS 是磁盘密集型系统。
查看:
iostat -x 1
如果 %util 接近 100%,就是磁盘瓶颈。
HDFS 对网络依赖极高。
查看:
sar -n DEV 1
ethtool eth0
默认参数不适合大数据:
常见优化:
# 文件句柄
ulimit -n 65536
# 关闭 swap
swapoff -a
# 内核参数
net.core.somaxconn=32768
net.ipv4.tcp_tw_reuse=1
dfs.replication 太大(如 3+)dfs.blocksize 太小(默认 128M 还算合理)建议:
NameNode 或 DataNode GC 频繁。 查看:
jstat -gcutil <pid> 1000
top → 看 CPU、iowaitiostat -x 1 → 看磁盘sar -n DEV 1 → 看网络你可以直接说一句:
“CentOS 7,HDFS 写特别慢,HDD”
我可以给你针对性的优化方案。