Ubuntu HDFS如何进行集群扩容

Ubuntu HDFS集群扩容分为横向扩容（新增节点）和纵向扩容（提升单机硬件），以下是具体步骤及注意事项：

一、横向扩容（新增DataNode节点）

1. 准备工作

• 确保新节点与集群中其他节点的操作系统版本、Hadoop版本一致。
• 在新节点上安装Java和Hadoop（与集群版本相同），配置JAVA_HOME和HADOOP_HOME环境变量。
• 确保新节点网络配置正确，可与NameNode及其他DataNode通信。

2. 配置新节点

• 修改hdfs-site.xml：
  在新节点的$HADOOP_HOME/etc/hadoop/hdfs-site.xml中，添加或修改以下配置，指定数据存储路径（可多个路径用逗号分隔）：

  <property>
    <name>dfs.datanode.data.dir</name>
    <value>/path/to/new/data/directory</value>
  </property>
  

• 修改core-site.xml：
  确保fs.defaultFS指向集群的NameNode地址（如hdfs://namenode:9000）。

3. 启动新节点

• 在新节点上启动DataNode服务：

  $HADOOP_HOME/sbin/hadoop-daemon.sh start datanode
  

• 在NameNode上刷新节点列表：

  hdfs dfsadmin -refreshNodes
  

4. 数据平衡

• 执行数据重新平衡，使数据均匀分布在所有节点：

  hdfs balancer
  

5. 验证扩容

• 使用以下命令查看集群状态，确认新节点已加入：

  hdfs dfsadmin -report
  

• 通过HDFS Web界面（如http://namenode:9870）检查节点状态。

二、纵向扩容（提升单机硬件）

1. 扩展磁盘

• 在现有节点上新增物理硬盘，分区并格式化（如ext4格式）。
• 挂载新分区到指定目录（如/mnt/newdisk），并修改/etc/fstab实现开机自动挂载。

2. 配置HDFS

• 编辑hdfs-site.xml，在dfs.datanode.data.dir中添加新挂载目录路径。
• 重启DataNode服务使配置生效：

  sudo systemctl restart hadoop-datanode
  

3. 数据迁移（可选）

• 若需将原有数据迁移到新磁盘，可使用hdfs balancer命令重新平衡数据。

三、注意事项

1. 数据安全：
   • 扩容前对集群数据进行完整备份，避免格式化或操作失误导致数据丢失。
   • 确保新节点的机架位置与集群规划一致，避免数据单点故障。
2. 性能影响：
   • 扩容操作可能影响集群性能，建议在低峰时段进行。
   • 监控集群状态，确保新节点正常加入且数据分布均衡。
3. 高可用性：
   • 若集群配置了NameNode高可用（Active/Standby），需同步更新NameNode的共享存储（如ZooKeeper）。

参考来源：