下面给你一个**从零在 Linux 上搭建 HDFS(Hadoop 分布式文件系统)**的实用指南,适合单机伪分布式或简单的多机分布式入门。
# Ubuntu
sudo apt install openjdk-8-jdk -y
# CentOS
sudo yum install java-1.8.0-openjdk-devel -y
验证:
java -version
useradd hadoop
passwd hadoop
后续操作建议切换到该用户。
wget https://archive.apache.org/dist/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz -C /opt
mv /opt/hadoop-3.3.6 /opt/hadoop
编辑 ~/.bashrc 或 /etc/profile:
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export HADOOP_HOME=/opt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
使配置生效:
source ~/.bashrc
进入配置目录:
cd $HADOOP_HOME/etc/hadoop
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/hadoop/tmp</value>
</property>
</configuration>
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/opt/hadoop/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/opt/hadoop/datanode</value>
</property>
</configuration>
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
测试:
ssh localhost
⚠️ 只执行一次
hdfs namenode -format
start-dfs.sh
查看进程:
jps
应看到:
hdfs dfs -mkdir /test
hdfs dfs -put /etc/hosts /test
hdfs dfs -ls /test
Web 页面:
http://localhost:9870
stop-dfs.sh
| 问题 | 原因 |
|---|---|
| NameNode 起不来 | 未格式化或目录权限错误 |
| DataNode 不显示 | dfs.data.dir 权限不对 |
| SSH 失败 | 未配置免密 |
| JAVA_HOME 报错 | hadoop-env.sh 未设置 |
如果你告诉我:
我可以直接给你定制配置。