在 CentOS 上“扩容 HDFS”通常有两层含义,需要区分清楚:
下面分别说明。
# 复制 master 的 hadoop 目录
scp -r /opt/hadoop root@newnode:/opt/
vi /etc/hosts
添加:
new_node_ip newnode
vi $HADOOP_HOME/etc/hadoop/workers
添加:
newnode
hdfs --daemon start datanode
hdfs dfsadmin -report
看到新节点即成功。
/dev/sdb)lsblk
fdisk -l
mkfs.xfs /dev/sdb
mkdir -p /data/hdfs/datanode2
mount /dev/sdb /data/hdfs/datanode2
chown -R hdfs:hadoop /data/hdfs/datanode2
<property>
<name>dfs.datanode.data.dir</name>
<value>/data/hdfs/datanode,/data/hdfs/datanode2</value>
</property>
hdfs --daemon stop datanode
hdfs --daemon start datanode
hdfs dfsadmin -report
NameNode 不能简单扩容磁盘容量来“扩 HDFS 文件数”
如果:
解决方案:
| 问题 | 原因 |
|---|---|
| 新节点不显示 | workers 没配 / 防火墙 |
| 磁盘不识别 | 没 chown |
| 容量没增加 | dfs.datanode.data.dir 没改 |
| 权限错误 | hadoop 用户不一致 |
你可以告诉我:
我可以直接给你一步到位的命令清单。