温馨提示×

centos如何修改hdfs参数

小樊
47
2026-10-20 23:14:00
栏目: 智能运维

在 CentOS 上修改 HDFS 参数,本质就是修改 HDFS 的配置文件并重启/刷新相关服务。下面按常见场景给你说明。


一、HDFS 主要配置文件位置

通常在 Hadoop 安装目录下:

$HADOOP_HOME/etc/hadoop/

常见文件:

  • hdfs-site.xml:HDFS 核心参数(副本数、块大小等)
  • core-site.xml:全局配置(NameNode 地址等)
  • hadoop-env.sh:环境变量(内存、JVM 参数)

示例路径(常见):

/usr/local/hadoop/etc/hadoop/
/opt/cloudera/parcels/CDH/lib/hadoop/etc/hadoop/   # CDH

二、修改 HDFS 参数步骤(通用)

1. 编辑配置文件

vi $HADOOP_HOME/etc/hadoop/hdfs-site.xml

例如修改副本数:

<property>
  <name>dfs.replication</name>
  <value>2</value>
</property>

修改块大小:

<property>
  <name>dfs.blocksize</name>
  <value>134217728</value> <!-- 128MB -->
</property>

2. 同步配置(集群环境)

如果是多节点集群,每台机器都要改,或统一分发:

scp hdfs-site.xml node2:$HADOOP_HOME/etc/hadoop/
scp hdfs-site.xml node3:$HADOOP_HOME/etc/hadoop/

3. 重启 HDFS 服务

(1)手动启动方式

stop-dfs.sh
start-dfs.sh

或单独重启:

hadoop-daemon.sh stop namenode
hadoop-daemon.sh start namenode

hadoop-daemon.sh stop datanode
hadoop-daemon.sh start datanode

(2)CentOS systemd 方式(如果配置了)

systemctl restart hadoop-namenode
systemctl restart hadoop-datanode

(3)CDH / Ambari 管理

  • Cloudera Manager
    • 修改配置 → 重启 HDFS 服务
  • Ambari
    • Configs → HDFS → 修改 → Restart

三、部分参数无需重启

1. 动态刷新(NameNode)

hdfs dfsadmin -refreshNodes

用于:

  • 白名单/黑名单节点变更

2. 某些参数支持在线修改

hdfs dfsadmin -setBalancerBandwidth 104857600

四、常见修改示例

1. 修改 NameNode 内存

vi hadoop-env.sh
export HADOOP_NAMENODE_OPTS="-Xmx4g"

重启 NameNode 生效。


2. 修改 HDFS 端口

core-site.xml:

<property>
  <name>fs.defaultFS</name>
  <value>hdfs://namenode:9000</value>
</property>

⚠️ 修改端口必须重启集群。


五、验证是否生效

hdfs getconf -confKey dfs.replication
hdfs dfs -put file /
hdfs fsck /file -files -blocks

如果你能告诉我:

  • 单机还是集群
  • Hadoop 版本(2.x / 3.x)
  • 是否 CDH / HDP
  • 具体想改哪个参数

我可以给你更精确的命令。

0 踩