下面按常见 Linux 环境给你一套清晰的 HDFS 配置与启动流程(以 Hadoop 3.x 为例,Hadoop 2.x 类似)。
java -version
建议 JDK 8 或 11。
tar -zxvf hadoop-3.3.6.tar.gz -C /opt/
ln -s /opt/hadoop-3.3.6 /opt/hadoop
vim ~/.bashrc
export JAVA_HOME=/usr/java/jdk1.8.0_xxx
export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source ~/.bashrc
进入配置目录:
cd $HADOOP_HOME/etc/hadoop
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/hadoop/tmp</value>
</property>
</configuration>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/opt/hadoop/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/opt/hadoop/dfs/data</value>
</property>
</configuration>
export JAVA_HOME=/usr/java/jdk1.8.0_xxx
ssh-keygen -t rsa
ssh-copy-id localhost
测试:
ssh localhost
hdfs namenode -format
⚠️ 不要重复格式化,否则 data 会不一致。
start-dfs.sh
hdfs --daemon start namenode
hdfs --daemon start datanode
jps
应看到:
http://localhost:9870
hdfs dfs -mkdir /test
hdfs dfs -ls /
stop-dfs.sh
→ 检查 hadoop-env.sh
→ 修改 core-site.xml 中端口
chown -R hadoop:hadoop /opt/hadoop
如果你需要:
可以告诉我你的使用场景,我可以直接给你对应配置。