下面给你一份在 Linux 上安装 Hadoop(单机/伪分布式)的完整入门教程,适合学习和开发使用。如果你需要完全分布式集群,我也可以再补充。
Hadoop 依赖 Java。
sudo apt update
sudo apt install openjdk-8-jdk -y
sudo yum install java-1.8.0-openjdk-devel -y
验证:
java -version
sudo adduser hadoop
sudo usermod -aG sudo hadoop
su - hadoop
官网:https://hadoop.apache.org/releases.html
示例(以 3.3.6 为例):
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
tar -zxvf hadoop-3.3.6.tar.gz
sudo mv hadoop-3.3.6 /usr/local/hadoop
编辑 ~/.bashrc:
nano ~/.bashrc
添加:
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
生效:
source ~/.bashrc
验证:
hadoop version
hadoop-env.shnano $HADOOP_HOME/etc/hadoop/hadoop-env.sh
设置:
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
core-site.xmlnano $HADOOP_HOME/etc/hadoop/core-site.xml
内容:
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
hdfs-site.xmlnano $HADOOP_HOME/etc/hadoop/hdfs-site.xml
内容:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
mapred-site.xmlnano $HADOOP_HOME/etc/hadoop/mapred-site.xml
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>
yarn-site.xmlnano $HADOOP_HOME/etc/hadoop/yarn-site.xml
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
</configuration>
sudo apt install ssh -y
ssh-keygen -t rsa
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys
测试:
ssh localhost
hdfs namenode -format
⚠️ 只能执行一次,否则数据会丢失
start-dfs.sh
start-yarn.sh
查看进程:
jps
应看到:
hdfs dfs -mkdir /input
hdfs dfs -put README.txt /input
hdfs dfs -ls /input
确认 hadoop-env.sh 中 JAVA_HOME 设置正确。
检查 9000 / 9870 / 8088 是否被占用。
使用 hadoop 用户,不要全程用 root。
如果你愿意,可以告诉我:
✅ 你的 Linux 版本
✅ 是否用于学习 / 生产
✅ 单机还是多台服务器
我可以给你定制版安装方案。